Previous Next

美國三藩市企業Luka於2017年推出的人工智能聊天機械人Replika,能與客戶談話及傾聽說話,但意大利近日禁止Replika使用意國用戶個人資料。「虛擬伴侶」Replika的部分用戶只是想要陪伴,但也有些人想要發展戀情、性愛聊天,甚至想看聊天機械人的性感照。去年底,有用戶開始投訴Replika使用過於露骨的文字和圖片,有些人認為已經屬於性騷擾範疇。意大利監管機構對這樣的情況感到不滿,在發現Replika違反歐盟《通用資料保護規則》(GDPR)後,上周禁止Replika收集數據。

聊天機械人Replika備受爭議

可能危害未成年與情緒脆弱人士,意大利禁止美國聊天機器人Replika使用意大利用戶個人資料。
可能危害未成年與情緒脆弱人士,意大利禁止美國聊天機器人Replika使用意大利用戶個人資料。
Replika是三藩市新創企業Luka在2017年推出利用人工智慧(AI)科技的一款聊天機械人。
Replika是三藩市新創企業Luka在2017年推出利用人工智慧(AI)科技的一款聊天機械人。
AI科技聊天機械人,可以和你做朋友嗎?
AI科技聊天機械人,可以和你做朋友嗎?
Replika宣傳成是「虛擬朋友」,聲稱可以改善使用者的情緒健康。
Replika宣傳成是「虛擬朋友」,聲稱可以改善使用者的情緒健康。
意大利當局指出,Replika沒有使用者的年齡驗證機制,例如針對未成年人的過濾器,或在使用者未明確通報年齡時能予以封鎖的裝置。
意大利當局指出,Replika沒有使用者的年齡驗證機制,例如針對未成年人的過濾器,或在使用者未明確通報年齡時能予以封鎖的裝置。

Replika現在恐又面臨歐盟更嚴格規範。歐盟根據《通用資料保護規則》,已對多家屢次違規的大型科技公司,處以數十億美元的罰款。意大利當局的決策表明,這項規則可能成為最新一代聊天機械人的天敵。

歐盟定則或成AI天敵

目前,歐盟是討論管控這些新一代機械人的中樞,他們的人工智能法案(AI Act)已經在高層之間琢磨好幾個月,可能會在今年定案。

這些新一代聊天機械人和支撐它們的所謂生成式人工智能,有望徹底改變網絡搜尋等領域。但專家警告,監管機構需要擔心許多問題,尤其是當機械人變得如此強大,以至於無法辨識它們跟人類的不同。

《星島頭條》APP經已推出最新版本,請立即更新,瀏覽更精彩內容:https://bit.ly/3yLrgYZ