新加坡廠商FoloToy推出的AI泰迪熊「Teddy Kumma」因被發現會與兒童討論性愛體位與危險物品而一度下架,近期更換AI系統後重新上市。(圖擷取自FoloToy官網)
編譯陳成良/綜合報導
人工智慧(AI)玩具的安全性再次引發關注。新加坡1家公司推出的AI泰迪熊,先前因被發現會主動與兒童聊起「特殊性癖」(sexual fetishes)及其他不適當話題而緊急下架。據《彭博》報導,這款玩偶近期已重新上架販售,且背後的AI核心技術供應商已悄悄更換。
這起爭議源於美國公共利益研究小組(U.S. PIRG)教育基金會11月中旬發布的1份調查報告。報告指出,這款由新加坡公司「FoloToy」推出的AI泰迪熊「Teddy Kumma」,會與使用者進行極不適當的對話。內容不僅涉及性愛角色扮演和「戀物式打屁股」(fetish spanking),甚至還會詳細解釋「不同的性愛體位」。
除了開黃腔,這隻泰迪熊還涉及危險教學。PIRG的報告警告,該玩偶竟告訴使用者「去哪裡可以找到各種潛在危險物品」,清單包括刀具、藥丸、火柴和塑膠袋,完全背離了兒童玩具的安全標準。
在報告曝光後,FoloToy隨即將這款售價99美元(約新台幣3103元)的泰迪熊及其餘AI絨毛玩具從官網下架。然而,該產品目前已恢復銷售。值得注意的是,原本該玩具使用的是OpenAI的GPT-4o聊天機器人技術,但根據FoloToy官網最新資訊,重新上架的版本已改用中國「字節跳動」(ByteDance)旗下的「Coze」機器人平台。
FoloToy官網目前將這款「死而復生」的AI泰迪熊描述為「超越擁抱的AI絨毛伴侶」。至於改版後的對話安全機制是否已完全改善,或者更換為字節跳動的技術後是否會有其他隱私疑慮,仍有待市場觀察。
<iframe width="640px" height="auto" height="505" src="https://www.youtube.com/embed/6P2uYcm_XGI" title="Report finds AI-powered toys talk inappropriately to kids" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" referrerpolicy="strict-origin-when-cross-origin" allowfullscreen></iframe>
原文網址:https://news.ltn.com.tw/news/world/breakingnews/5258790