合国教科文组织最近的一份报告显示，大多数基于语音的对话代理人都是女性。在报告中，它概述了人工智能中的性别偏见(特别是聊天机器人)可能对社会造成的潜在有害影响。

但是，该报告主要关注基于语音的对话代理，而该分析不包括聊天机器人(即基于文本的对话代理)。实际上，大多数有关对话式AI中性别偏见的研究都只针对语音应用。

聊天机器人还可以在设计中进行性别区分。

根据Investopedia的说法，“ Chatbot是chatterbot的缩写，是一种人工智能功能(AI)，可以通过任何主要的消息传递应用程序进行嵌入和使用。实现特定目标的最佳机会。”

在研究人员信息系统和市场营销(IISM)的研究所发现，“针对不同性别的线索在聊天机器人的设计中常用，大多数聊天机器人是-或明或暗地-旨在传达特定性别”。

研究人员继续说：“更具体地说，大多数聊天机器人都有女性名字，看起来像女性的化身，被称为女性聊天机器人。”

“女性”聊天机器人的突出之处鼓励了对女性的刻板印象，这些女性既顺从又顺从。加州大学洛杉矶分校教授萨菲亚·诺布尔(Safiya Noble)在2018年表示，聊天机器人可以“充当强大的社交工具，并向人们(尤其是儿童)传授女性，女孩和性别女性的角色，以响应需求”。

一家着名的数字支持和开发公司BitCot的首席执行官Raj Sanghvi认为，对于开发人员而言，创建更多不分性别的虚拟助手(不通过新技术加剧性别偏见)很重要。

Sanghvi说：“精心设计的富有同情心的聊天机器人可以激发一段精彩的对话，并有助于解决和简化一些沟通难题。”

“了解您要解决的问题并定义参数，问题，语言选择，上下文非常重要。聊天机器人可以将客户体验提升到一个新的水平。”

当被问及使用聊天机器人最有趣的方面是什么时，Sanghvi回答说：“在使用聊天机器人时，不能躲在屏幕或用户界面后面，这是好是坏。因此，用户体验完全取决于机器人的上下文，语言和智能，以帮助解决问题，并且随着机器人了解更多有关客户的信息，机器人的发展是一个持续的过程。”

我们与之对话的另一位专家，TextChat.com的创始人Eric Kades对聊天机器人的有趣方面有另一种看法：

“对于聊天机器人，我发现最有趣的是了解每个会话界面的设计如何对人们的生活产生积极或消极的影响。为客户成功找到正确的公式的过程总是充满挑战，乐趣和对我的回报。”

作为人工智能解决方案的先驱，TextChat与UCLA一起在2017年建立了他们的第一个自定义聊天机器人，该机器人帮助低社会经济学生度过了财务援助流程，并显着降低了辍学率。

另一位被选为该作品的专家是Molly Duggan，Molly Duggan Associates的首席创意官兼首席执行官，Molly Duggan Associates是一家屡获殊荣的创意技术机构，位于旧金山。Duggan的项目包括世界各地一些最重要的科学，技术，航空航天，环境，高等教育，医疗保健和娱乐营销计划。

Duggan的代理为客户创建了聊天机器人，从而为对话带来了必要的视角，该聊天机器人体现了解决软件开发中性别问题的理想方式。

“大约八年前，我们开始研究使用AI分析社交媒体中的语气和情感，” Duggan说。“这很重要，因为这可以通过在线视角大规模揭示人们对您品牌的感觉。”

Duggan在2018年开始与AI或虚拟助手合作，并创建了一个名为Conversation Orchestrator的服务产品-次年(2019)，当年成为解决方案合作伙伴后，他们获得了Drift在Conversational Marketing领域的杰出贡献。

Duggan认为，关于虚拟助手空间的最令人兴奋的事情是，将人类行为映射到脚本化对话中，从而为我们的客户提供结果。

“您会认为人们宁愿与人类交谈，”杜根说。相反，杜根发现，当销售人员试图与“嗨!我是山姆 让我知道，如果您有任何疑问，或者可以致电给我...”，对话从未发生过。

但是，假设某个品牌提示访问者有关某个特定痛点的问题，该痛点由他们所在页面上的上下文收集而来。在这种情况下，客户通常会像调查表一样回答或确认“是的，我确实有此问题”。

“一旦发生，” Duggan说，“对话脚本开始，如果我们正确地完成工作，我们可以引导客户了解他们的需求，并在他们的整个旅程中对其进行教育。我们的目标是帮助他们获得所需的东西，同时创造愉快的体验。”

但是，如果操作不正确，这样做的效果可能会很差。Kades说：“如果聊天机器人使用自然语言处理(NLP)和机器学习技术，并且不断重复回答一个简单的问题，那么该聊天机器人就会让客户陷入我所说的'错误的地狱'。”

TextChat是市场上唯一允许企业所有者通过短信实时接管来自聊天机器人的对话的聊天机器人平台，这已证明可以大大提高销售转化率。

Kades继续说道：“让我感到沮丧的是，聊天机器人获得了他们的恶名，因为技术公司出售其聊天机器人平台是为了消除人与人之间的互动并节省资金。这会导致聊天机器人产生偏见，减慢聊天机器人的采用速度，并导致人们浪费大量时间来构建“通往无处可去的道路”的聊天机器人。”

Sanghvi认为，聊天机器人的语言同情心(或缺乏语言同情心)决定了它们成功的可能性。

“计算机科学和工程学的多样性以及帮助创建数据以及语言中的上下文和同情心的数据分析人员，将有助于减少偏见，但这将是一个长期的工作课题。”

Sanghvi是女企业家及其创新的著名支持者，他说，关于性别的讨论对于创建对社会有益的AI至关重要。

Sanghvi说：“尽管不到十年，但现代聊天助手由于受到消费者的广泛欢迎以及社会倾向于通过分配性别对这些对象进行拟人化而需要进行特别的审查。”

“将性别应用到强化刻板印象的机器人程序中是有问题的，因此我们不采用这种方法，” Duggan说。

“我们为非二进制的机器人程序编写脚本，并且我们的脚本化对话没有特定性别。我们用品牌的部分名称来命名我们的机器人(例如，针对GaggleAMP的Gagglebot或针对ClearSale的Clearbot。)”

另一方面，作为创意技术局(Creative Technology Agency)的首席执行官，杜根(Duggan)了解以我们为基础的AI人性化的全行业准则以及性别平等对我们与之互动的技术(例如智能虚拟助手)的重要性。刻画。

“我认为，应自觉地将性别应用于智能虚拟助手。Duggan说：“在某些情况下，性别对于智能虚拟助手至关重要，例如处理身体或心理健康问题。在这种情况下，与与自己的性别认同相似的人进行交谈可能会使人感到更自在。”

Molly Duggan Associates与正在处理一些世界上最具挑战性问题的组织合作，与约翰·霍普金斯大学，伯克利实验室，UCLA和UCSF等组织的有远见的人合作。

高等教育是一个环境，在这个环境中，包容意识至关重要，这些高等教育的客户积极主动地解决性别偏见。

Duggan阐述道：“作为潜在的访客第一品牌接触点，它可以设定体验的基调。应该考虑对所有偏见，经济，语言，教育，种族采取有意识的方法。”

那么如何解决聊天机器人中的性别偏见呢?一个好的第一步是更周到的聊天机器人设计。Kades说：“通过周到的聊天机器人设计，聊天机器人将极大地推动电子商务业务的销售和客户满意度。”

他继续说：“应该更多地关注以客户成功为目标的聊天机器人的设计，而不仅仅是解决业务问题或削减成本。我认为软件设计师经常忘记聊天机器人正在与真正的人进行交流，而他们实际上对制作一个机器人感到焦虑。购买决定或需要解决自己的个人问题。”

Duggan在这次对话中补充说：“我们的工作是专注于每个访客的痛点，并提供富有同情心和好玩而又不偏any任何性别的对话解决方案。”

当然，问题的很大一部分，因此解决方案是数据。

首先，所有机器人都接受了实际数据的培训。通过构建ML模型和工具的组合，开发人员可以将客户提出的问题和答案与最合适的答案相匹配。

机器人使用模式匹配对文本进行分类，并为客户提供适当的响应。这些模式的标准结构是“人工智能标记语言”或AIML。” Sanghvi说。

一旦聊天机器人准备就绪并可以与客户进行实时交互，就可以实现智能反馈循环。在交谈中，当客户提出问题时，聊天机器人会通过提供诸如“您指的是a，b还是c”之类的不同选项，巧妙地为他们提供了几个答案。

这样，客户自己可以将问题与实际可能的意图相匹配，并且该信息可以用于重新训练机器学习模型，从而提高了聊天机器人的准确性。

为了减少该技术中的偏差，必须密切注意漫游器两侧的数据。Sanghvi说：“人们写机器人，人们也使用它们，所以偏见源于这两个方面。”

Sanghvi重要地指出：“作为源内容的NLP层和知识库，如果普遍存在偏见，则聊天机器人将继续显示该行为。有多种方法可以通过允许使用审阅系统并将其并入流程中，以及提高源数据的质量来减少偏差。”

关键是让数据科学家参与进来，以减轻风险，并投资于研究和多学科开发团队，其中包括心理学家和语言学家等。

为了解决AI机器人中的性别刻画，开发人员必须专注于使其工程团队多样化。学校和政府必须消除代表人数不足的群体进行STEM教育的障碍;必须制定AI机器人性别的全行业标准; 科技公司必须提高透明度。莫莉·杜根(Molly Duggan Associates)就是一个很好的例子。

Duggan说：“我们努力创造一种富有同情心的自动化体验，以使需要回答问题或需要知道有适合他们的解决方案的访问者感到愉悦。” “我们的首要目标是使更高的ed易于使用。而且，要做到这一点，我们必须见到学生所在的地方。”

她总结说：“减少聊天机器人的偏见是朝着为所有人创造安全，包容的教育环境的又一步。最重要的是，光彩不分性别。”