李純恩 - 物極必反|好好過日子

科技騙徒猖獗,中國終於發生了第一宗AI騙案。一個生意人收到老友的視頻對話,對方說生意等着現金周轉,想跟他商借三百萬人民幣,他見是老友現身借錢,聲容並茂,便也不多想,就把錢打進了對方戶口。結果,他碰到了這位老友真人,說起來一頭霧水,這才起疑,報案追查,才知道騙徒用了老友的樣貌和聲音,以Al合成出現視頻把他騙了。

這個消息一出,引起一陣恐慌。以前說「眼見為實」,現在則眼見也未必為實,一個熟人在你的電腦屏幕活靈活現出現,音容笑貌乃至說話的語氣都那麼熟悉,言笑晏晏,有問有答,但結果卻是Al技術合成的騙局。

跟這樣的騙局相比,現在的電話騙案就小巫見大巫了。相信以後的騙案,都會朝這個方向發展。

這天跟朋友說起這件事,朋友說以後真是防不勝防,甚麼人都不能相信了。我說物極必反,事情真的發展到那一步,騙徒反而走到了末路。假作真時真亦假,當到了人們覺得除非面對真人見到摸到,不然甚麼都不相信的時候,那麼一切可以利用科技的騙案——不管是電話報訊還是視頻「相見」——全部無效了。騙子的成功建基於有人相信,如果到了人們甚麼都不信的時候,騙子也失業了。

要以甚麼都不相信來杜絕騙子,似乎十分慘烈,但有甚麼辦法呢 ?今天騙子利用的所有資源,都是人類自己搞出來的,那也只有人類用一種慘烈的辦法來終結。
李純恩
更多文章