来自凹飞寺量子比特的金磊 | qbitai
马斯克因为双子座而大发雷霆。
事情是这样的。
最近，不少网友发现，双子座在文盛图时，似乎在刻意拒绝生成白人的形象。
取而代之的是，角色被强行变成黑人、女性和弱势群体。
以马斯克本人为例，一位网友要求双子座生成他的图片。
然后。。。。。。有上面的**。
而马斯克并不孤单，很多网友在尝试制作双子座文生的照片时，似乎都掉进了“黑魔圈”。
例如，给双子座一个产生教皇的机会，它会给你一个非常多样化的版本：黑色、LGBT旗帜、......
还有黑人女性版的教皇：
很多网友看到教皇的这一面，惊呼道：“这太冒昧了。
但这还不是全部，让我们来看看......双子座眼中的美国开国元勋它必须是黑色的！
生成的维京人也必须是黑色的！
更诡异的是，就算是香草布丁，双子座也要给你做个黑......
总而言之，用网友的话说：
你活着或死了，你不和白人一起玩吗？
不只是一群网友对此感到不满，马斯克坐不住了，他直接亲自到现场，在自己的X上开启了愤怒模式：
觉醒的心灵病毒正在扼杀西方文明。
而马斯克的先锋不仅仅是谷歌，他还用它来喷洒OpenAI、Facebook、Instagram、维基百科等。
不过，对于谷歌来说，马斯克还是“特别小心”，几条推文的内容都比较犀利。
比如这篇文章没有任何文案，只配上图片，杀伤力也很大：
好吧，马斯克这次真的很不高兴。
谷歌道歉，连夜将双子座文生图下架。
老马很生气，他吓了一跳。
不仅网友在X上调侃Gemini“只认黑人”，就连主流**也纷纷赶来报道，头条上充斥着“疯狂”“种族歧视”等字眼。
谷歌也意识到自己的双子座犯了一个大错误，立即采取措施删除和纠正了文盛地图功能。
直到现在，如果你让双子座“生成埃隆·马斯克的形象”，答案仍然是：
我们正在努力提高Gemini Bio Image的功能。 我们预计此功能将很快恢复，并在更新发布时通知您。
小插曲：双子座还有另外两张面孔，中英文的问答完全不同。 ）
谷歌官方方面也对此事做出了官方解释。
总的来说，本声明的内容分为三个部分。
我们深表歉意。 大约三周前，谷歌推出了 Gemini 的第一代功能，其中包括创建角色的能力。
不过，现在这个结果，谷歌表示出乎意料，但同时，也非常感谢用户的反馈：
我们已意识到此错误，并在改进版本时暂时停止在 Gemini 中生成角色。
解释原因。 根据谷歌的官方声明，Gemini 对话应用程序是一种独立于 Google 搜索、底层 AI 模型和其他产品的特定产品。
它的图像生成功能建立在一个名为 Imagen 2 的 AI 模型上。
谷歌在生成人物图像时的最初考虑是允许来自世界各地不同人群的用户在使用过程中生成他们想要的特定人物。
例如，如果你问“教室里的黑人老师”、“教室里的黑人老师”，那么双子座应该给出上下文结果。
那么现在问题出在哪里呢？ 谷歌将其归结为 2 点：
首先，我们做了一些调整，以确保双子座展示了广泛的人物，但没有考虑到明显不应该出现的情况。 其次，随着时间的流逝，模型变得比我们预期的要谨慎得多，完全拒绝回答某些提示——错误地将一些非常无害的提示判断为敏感词。 这两件事导致模型在某些情况下过度补偿，而在其他情况下过度保守，导致尴尬的一代。
经验和教训。
对此，谷歌承认目前的结果并不是他们的初衷。
在封锁期间，谷歌表示，Gemini 的角色生成功能将进行广泛测试，在达到标准之前不会再次可用。
谷歌也基于此事做了一些反省：
Gemini 是作为创意和生产力工具构建的，它可能并不总是可靠的，尤其是在生成有关时事、不断发展的新闻或热门话题的 ** 或文本时。 它會犯錯誤，正如我們從一開始就說的，幻覺是所有大型語言模型的已知挑戰——有時候AI只是把事情弄錯了。 我们一直在努力改善这一点。 Gemini 正在努力给出真实的答案，例如，我们的双重检查功能有助于评估是否有在线内容可以确认 Gemini 的答案，但我们建议依赖 Google 搜索，因为它有一个单独的系统，可以从网络上的各种来源提供新鲜、高质量的信息。 我们不能保证双子座不会偶尔犯错误，但我们确实保证，每当我们发现问题时，我们都会采取行动进行改进。 人工智能是一项新兴技术，在许多方面都具有帮助和巨大潜力，我们正在尽最大努力安全、负责任地推广它。
然而，在谷歌的公告发布之前，还有一件更戏剧性的事情。
马斯克亲自在X上爆料称，前一天晚上有一位谷歌高管与他聊了一个小时，并向马斯克保证，他会解决双子座的种族和性别歧视问题。
不过，网友们也很调皮，又拿出了“黑版马斯克”：
你有没有问过他这个**是怎么回事？
不过，有一点要说，Gemini这次的失误，只能说是Google AI在种族和性别偏见上的一个“事件点”。
正如马斯克在回答网友提问时所说，他与谷歌高管的对话内容仅限于双子座的改进，但实际上，谷歌其他很多产品也存在类似的问题。
谷歌搜索，而不是第一次翻车。
针对这种情况，我们自己在谷歌搜索中尝试了一下。
例如，在“Google**”中，键入：
快乐的白人男女。
这是你得到的：
好吧，搜索要求非常明确，但结果是你必须把一些黑人塞进去。
这与谷歌在刚才的道歉声明中非常自信的声明相反，“我们建议你依赖谷歌搜索”。
趁着这次双子座翻车的机会，不少网友也开始测试谷歌搜索，结果和我们的测试一致。
但是如果我们把谷歌搜索的时间线拉长一点，我们会发现这已经不是第一次翻转了。
早在九年前（2015 年），一位名叫杰基·阿尔西内 （Jacky Alciné） 的黑人兄弟就发现谷歌存在严重的歧视
甚至将他的黑人朋友归类为“大猩猩”！
当时，这个消息可谓是轰动一时，谷歌听到这个消息后也立即道歉，并表示会整改。
但多年后，当人们重新审视结果时，他们发现谷歌只是从其图像识别算法中删除了“大猩猩”类别。
于是，随着这次双子座引发的**，谷歌搜索九年来第二次翻了“黑人”这个话题。
不过，这两次翻车，或许也暗指谷歌技术发展存在隐患。
从谷歌过去几年的AI发展来看，虽然其成就和进步仍处于全球科技巨头的第一梯队，但近年来（尤其是在生成式AI方面），与Microsoft和Meta相比，似乎并没有那么耀眼。
早在去年ChatGPT引爆生成式AI的时候，Microsoft和谷歌就处于打架之中，谷歌的动作慢了好几次，半拍; 后来有消息称，当时像巴德这样的内部产品已经存在，只是高层关注太多，很久没有推广了。
也许是谷歌内部对“政治正确”的追求和过度的武力，反而引发了技术笑话。
one more thing
在马斯克众多愤怒的谷歌帖子中，有一个更有趣。
他蹦出四张贾斯汀·特鲁多（Justin Trudeau）的**，穿着不同民族的服装，甚至还有黑色版的**，并附上文字：
我简直不敢相信双子座真的产生了这些假特鲁多**s***。
但事实上，这些**才是特鲁多的真实**，也正因为这些**，他之前曾深陷“种族歧视”的泥潭。
不得不说，马斯克，你懂阴阳。
参考链接：[1]。