为了打击人工智能（AI）技术的潜在滥用，Microsoft和谷歌宣布承诺在其生成式人工智能服务中实施新的儿童安全措施。这些承诺是与致力于打击儿童性虐待的非营利组织 Thorn 和 All Tech Is Human（旨在培养负责任的技术生态系统的倡议）合作做出的。
这些公告强调了科技行业对道德创新和保护弱势儿童免受性剥削和性虐待的奉献精神。亚马逊、Anthropic、Civitai、Meta、Metaphysic、Mistral AI、OpenAI 和 Stability AI 也致力于该计划。
Microsoft 的主动措施
Microsoft概述了其通过人工智能技术防止剥削儿童的战略。该公司声称，它将开发生成式人工智能模型，这些模型没有在包含儿童性虐待材料的数据集上进行训练。此外，Microsoft 承诺积极保护这些模型在发布后不暴露或生成此类内容。在他们的博客文章中，Microsoft强调了这一承诺的重要性，认为这是防止滥用人工智能技术制作或传播儿童性虐待材料（AIG-CSAM）和其他形式的针对儿童的性伤害的关键一步。
Google 的不懈努力
同样，谷歌也详细介绍了其在其人工智能服务中增强儿童安全的方法。该公司强调，存在一个专门的团队，负责识别可能表明儿童处于危险之中的内容。Google 采用多方面策略来检测和删除与儿童性虐待和性剥削相关的内容，利用哈希匹配技术、人工智能分类器和人工审核来确保其工作的有效性。此外，谷歌还表示支持美国国会的几项立法法案，旨在加强对儿童的保护免受虐待和剥削。
原创文章，作者：校长，如若转载，请注明出处：https://www.yundongfang.com/Yun294897.html
微信扫一扫不于多少！ 
支付宝扫一扫礼轻情意重 