×
加载中...
谷歌CEO:正昼夜不停地工作修复犯错的Gemini AI
鞭牛士 2024-02-28 21:55

鞭牛士报道,2月28日晚间消息,据外电报道,谷歌首席执行官桑达尔·皮查伊 (Sundar Pichai) 周二告诉员工,谷歌正在努力修复其 Gemini 人工智能 (AI) 工具,称该模型生成的图像有偏见且完全不可接受。 


这家Alphabet 旗下的公司上周暂停了 Gemini 的图像生成功能,此前社交媒体上的用户指出 Gemini 正在创建不准确的历史图像,有时用黑人、美洲原住民和亚洲人的图像取代白人。 


皮查伊在给员工的一份说明中表示,该工具的反应冒犯了用户,并且表现出偏见。


{我们的团队一直在夜以继日地工作来解决这些问题。我们已经看到各种提示有了实质性的改进......我们将回顾发生的事情并确保我们大规模修复它。」他说。 


该公司现在计划在未来几周内重新推出 Gemini AI。新闻网站Semafor最先报道了这一消息,随后谷歌发言人证实了这一消息。


在批评者抨击人工智能创造唤醒内容 后,谷歌多次为 Gemini 道歉。


谷歌知识与信息高级副总裁普拉巴卡尔·拉加万 (Prabhakar Raghavan) 周五在一篇博客文章中解释了问题所在,表示该人工智能工具没有达到目标。


拉格万在解释发生了什么时表示,Gemini的设计初衷是为了避免创造暴力或露骨的色情图像,或对真实人物的描绘,并且各种提示应该提供一系列人与一种种族的图像。


「然而,如果你提示双子座输入特定类型的人的图像——例如教室里的黑人老师或带着狗的白人兽医——或者特定文化或历史背景下的人,你绝对应该得到准确反映你的要求的回应。」拉加万写道。「那么出了什么问题呢?简而言之,有两件事。首先,我们为确保双子座显示一系列人而进行的调整未能考虑到显然不应该显示范围的情况。其次,随着时间的推移,模型变得更加谨慎超出了我们的预期,并且完全拒绝回答某些提示——错误地将一些非常镇痛的提示解释为敏感。」


「这两件事导致模型在某些情况下过度补偿,而在其他情况下过度保守,导致图像令人尴尬和错误。」他继续说道。「这不是我们的初衷。我们不希望双子座拒绝创建任何特定群体的图像。我们也不希望它创建不准确的历史图像或任何其他图像。」


拉加万表示,Gemini 的图像生成功能在重新上线之前将经过广泛的测试。 


自 2022 年 11 月推出OpenAI 的 ChatGPT以来,谷歌一直在竞相开发可与这家微软支持的公司推出的产品相媲美的人工智能软件。


一年前,当谷歌发布其生成式人工智能聊天机器人 Bard 时,该公司在宣传视频中分享了有关太阳系外行星图片的不准确信息,导致股价下跌高达 9%。


Bard 本月早些时候更名为 Gemini,谷歌在不同的订阅级别推出了该产品的三个版本:Gemini Ultra,最大且最有能力执行高度复杂的任务;Gemini Pro,最适合跨多种任务进行扩展;Gemini Nano,对于设备上的任务来说效率最高。

扫码下载app 最新资讯实时掌握