美國三藩市企業Luka於2017年推出的人工智能聊天機械人Replika，能與客戶談話及傾聽說話，但意大利近日禁止Replika使用意國用戶個人資料。「虛擬伴侶」Replika的部分用戶只是想要陪伴，但也有些人想要發展戀情、性愛聊天，甚至想看聊天機械人的性感照。去年底，有用戶開始投訴Replika使用過於露骨的文字和圖片，有些人認為已經屬於性騷擾範疇。意大利監管機構對這樣的情況感到不滿，在發現Replika違反歐盟《通用資料保護規則》（GDPR）後，上周禁止Replika收集數據。
聊天機械人Replika備受爭議
可能危害未成年與情緒脆弱人士，意大利禁止美國聊天機器人Replika使用意大利用戶個人資料。
Replika是三藩市新創企業Luka在2017年推出利用人工智慧（AI）科技的一款聊天機械人。
AI科技聊天機械人，可以和你做朋友嗎？
Replika宣傳成是「虛擬朋友」，聲稱可以改善使用者的情緒健康。
意大利當局指出，Replika沒有使用者的年齡驗證機制，例如針對未成年人的過濾器，或在使用者未明確通報年齡時能予以封鎖的裝置。
Replika現在恐又面臨歐盟更嚴格規範。歐盟根據《通用資料保護規則》，已對多家屢次違規的大型科技公司，處以數十億美元的罰款。意大利當局的決策表明，這項規則可能成為最新一代聊天機械人的天敵。
歐盟定則或成AI天敵
目前，歐盟是討論管控這些新一代機械人的中樞，他們的人工智能法案（AI Act）已經在高層之間琢磨好幾個月，可能會在今年定案。
這些新一代聊天機械人和支撐它們的所謂生成式人工智能，有望徹底改變網絡搜尋等領域。但專家警告，監管機構需要擔心許多問題，尤其是當機械人變得如此強大，以至於無法辨識它們跟人類的不同。
《星島頭條》APP經已推出最新版本，請立即更新，瀏覽更精彩內容：https://bit.ly/3yLrgYZ
