基于图像的虐待——即有人在未经同意的情况下拍摄、分享或威胁分享裸体、半裸或色情图像或视频——已成为一个日益严重的问题，2019年接受调查的澳大利亚人中有三分之一经历过这种情况。
RMIT社会和全球研究中心的NicolaHenry教授是创建“Umibot”的首席研究员，他说“deepfake”内容(使用AI生成的虚假视频或图像)，人们被迫创建色情内容并被发送未经请求的性内容的事件图片或视频也算作图片滥用。
“这是对信任的严重侵犯，旨在羞辱、惩罚或羞辱。这通常是肇事者施加权力和控制他人的一种方式，”澳大利亚研究委员会未来研究员亨利说。
“我们采访过的许多受害者幸存者只是希望问题消失，内容被删除或删除，但他们往往不知道去哪里寻求帮助。”
这就是这个试点聊天机器人要解决的问题。
在采访了受害者幸存者关于他们遭受形象虐待的经历后，亨利产生了这个想法。
虽然与她交谈的人有着不同的经历，但亨利说，他们常常不知道去哪里寻求帮助，有些人不知道发生在他们身上的事情是一种犯罪。
“我们采访的受害者幸存者说，他们经常被朋友、家人和其他人指责，让他们感到羞耻，这让他们更不愿意寻求帮助，”亨利说。
与Henry一起从事该项目的RMIT研究员AliceWitt博士说，Umibot不能替代人类支持，但它旨在帮助人们驾驭复杂的途径，并为他们提供报告选项和收集证据或如何收集证据的提示确保上网安全。
“这不仅仅是为了受害者幸存者，”维特说。
“Umibot旨在帮助旁观者甚至肇事者，作为防止这种虐待发生的潜在工具。”
Umibot是如何工作的?
用户可以为Umibot输入问题，也可以从一组选项中选择答案。
Umibot还要求用户确定他们是否超过18岁或未满18岁，以及他们是否需要帮助自己、帮助他人或担心他们所做的事情。这将告知他们获得什么样的支持和信息以适合他们的经历。
Henry说Umibot是同类产品中第一个致力于图像虐待受害者幸存者的产品。
“还有其他聊天机器人可以更广泛地帮助那些经历过不同在线伤害的人，但它们并不专注于基于图像的滥用，而且它们没有允许用户向聊天机器人输入问题的相同混合功能，”亨利说。
聊天机器人设计的新方法
Henry和Witt与总部位于墨尔本的数字机构Tundra合作，使用AmazonLex创建了Umibot，这是一种用于构建自然语言聊天机器人的人工智能服务。
“我们知道基于图像的虐待的受害者幸存者面临着基于图像的虐待之外的一系列经历，因此我们开发了Umibot作为一个完全包容和创伤知情的赋权工具，以支持具有不同经历和来自不同背景的人”亨利说。
该团队还与各种顾问合作，并进行了独立的无障碍审计，以确保Umibot尽可能符合全球残疾人无障碍标准。
“我们的主要道德挑战是确保Umibot不会造成任何伤害或创伤，或者让用户感到负担，”Witt说。
“很多受害幸存者还没有准备好与人谈论他们的经历，所以教Umibot如何善解人意和乐于助人是他们在没有任何压力的情况下寻求支持的一种方式。”
Umibot的后续步骤
现在可以使用Umibot，研究人员希望在未来几年内为受害者幸存者、旁观者和图像虐待的肇事者开发Umibot第2版。
“我们希望Umibot不仅能帮助受害者幸存者寻求支持，还能帮助我们制定‘最佳实践’指南，用于设计、开发和部署数字工具和干预措施，以更广泛地解决在线伤害问题，”Witt说。