前文我们提到 OpenAI ChatGPT 高级实时语音模式在测试期间未经用户同意，擅自模仿用户的声音与用户进行对话，针对这个问题 OpenAI 已经采取措施进行防范。
OpenAI 也在担心人类太人性化以及可能影响到社会规范，该公司明确说明希望所有人不要对 ChatGPT-4o 建立任何情感联系。
这种担忧是因为现在大家听到人工智能发生的机械声可能还不会太有感觉，如果人工智能使用的声音听起来很像人类的话，那么人们可能更容易相信它的话，这意味着人们更容易相信幻觉。
人工智能在经过长时间对话后确实会出现幻觉，OpenAI 也在通过各种措施减少这种幻觉，就人工智能本身来说，它们也可以通过某种方式学习更多知识和减少幻觉，然而如果人类相信人工智能在出现幻觉时给出的回应，那可能会造成大问题。
另一方面 OpenAI 担心 ChatGPT-4o 可能会扭曲社会规范，即人工智能对话机器人可以帮助孤独的人，但也可能会影响积极健康的社交关系 — 毕竟当大家都依赖人工智能而不是真实人类进行对话时，这可能会颠覆现在的社会规范。
人工智能会按照用户要求的语气进行对话，人工智能也更聪明，对人类来说人工智能不会疲惫、不会发脾气，可以长期持续的进行聊天和对话，也就是竞争力要远超人类。
为了减少负面影响，OpenAI 正在监测人们如何与聊天机器人建立情感联系以及在必要的时候调整系统。