Previous Next

「人工智能」(AI) 已經成為科技新趨勢,但不幸的是同時遭到騙徒利用,作為網絡詐騙工具。香港警方今年已經接獲相關案件,事主都是因為被AI技術暪騙或遭勒索。《星島申訴王》發現,有人在網上公然兜售AI換臉技術,還表示可用作不法用途。

科技公司提供AI犯罪技術

記者在社交網站聯絡一間馬來西亞IT公司,對方宣稱可以提供精品級AI換臉技術,除了適用於拍攝視頻和直播外,亦適用於「網戀釣魚」及「黑色產業」等網絡犯罪。

【黑心IT服務收費大公開】:

《星島申訴王》發現,有馬來西亞的IT公司,在網上公然兜售AI換臉技術,還表示可用作不法用途。
《星島申訴王》發現,有馬來西亞的IT公司,在網上公然兜售AI換臉技術,還表示可用作不法用途。
記者聯絡IT公司在Telegram開設的群組,發現對方收取虛擬貨幣「泰達幣」(USDT)作報酬。實時AI換臉軟件,年費索價3千美元(折合約港幣2萬3千元)。
記者聯絡IT公司在Telegram開設的群組,發現對方收取虛擬貨幣「泰達幣」(USDT)作報酬。實時AI換臉軟件,年費索價3千美元(折合約港幣2萬3千元)。
IT公司揚言可以提供精品級AI換臉技術,有二次開發,非坊間劣質技術可比。
IT公司揚言可以提供精品級AI換臉技術,有二次開發,非坊間劣質技術可比。
對方宣稱付款後即可享有優質換臉服務,連成龍及迪麗熱巴等名人明星的臉容,也能模仿。
對方宣稱付款後即可享有優質換臉服務,連成龍及迪麗熱巴等名人明星的臉容,也能模仿。
對方宣稱付款後即可享有優質換臉服務,連成龍及迪麗熱巴等名人明星的臉容,也能模仿。
對方宣稱付款後即可享有優質換臉服務,連成龍及迪麗熱巴等名人明星的臉容,也能模仿。
香港創科發展協會主席陳迪源應邀參與測試,了解IT公司的技術到哪個水平。
香港創科發展協會主席陳迪源應邀參與測試,了解IT公司的技術到哪個水平。

這間公司在Telegram開設群組,裡面有700多人。記者假扮顧客查詢,了解費用和服務,發現這間公司是收取俗稱「U幣」的虛擬貨幣「泰達幣」(USDT)作報酬。實時AI換臉軟件,年費索價3,000美元(折合約港幣2.3萬)。對方宣稱付款後即可享有優質換臉服務,連成龍及迪麗熱巴等名人明星的臉容,也能模仿。如果要創製指定人臉,則要做模,每個模要多加約4,300港幣。

該黑心IT公司代表阿Luck,還邀請記者試用他們的直播換臉服務,讓我們看看效果。記者遂邀請香港創科發展協會主席陳迪源參與測試,了解對方技術水平。

直播一開始,阿Luck已經換上一幅大叔臉孔,加上變聲器與陳迪源通話,目的除了展示效果外,還要避免真實容貌或聲線曝光。他轉了幾個角度後,開始換另一幅男子的臉孔,但陳迪源向阿Luck直言立體感變差,就像相片P過頭(過度修圖)的那種感覺。

【點擊睇專家實測過程】:

直播一開始,IT公司代表阿Luck已經換上一幅大叔臉孔,加上變聲器與陳迪源通話,目的除了展示效果外,還要避免真實容貌或聲線曝光。
直播一開始,IT公司代表阿Luck已經換上一幅大叔臉孔,加上變聲器與陳迪源通話,目的除了展示效果外,還要避免真實容貌或聲線曝光。
對方AI變臉後所用的大叔臉孔,最初尚算自然。
對方AI變臉後所用的大叔臉孔,最初尚算自然。
未幾IT公司換了另一幅男子的臉孔,立體感變差,就像相片P過頭(過度修圖)的感覺。
未幾IT公司換了另一幅男子的臉孔,立體感變差,就像相片P過頭(過度修圖)的感覺。
第3幅臉孔轉了女性,陳迪源提出一些測試AI系統的難度要求,例如用手遮臉等。
第3幅臉孔轉了女性,陳迪源提出一些測試AI系統的難度要求,例如用手遮臉等。
對方以手指點向眼睛時,AI影像立即變得模糊,手指變成透明而穿崩。
對方以手指點向眼睛時,AI影像立即變得模糊,手指變成透明而穿崩。
阿Luck被測試得有點惱羞成怒,向專家陳迪源說「真實效果你能接受就接受,不能接受,AI就是這樣子!」
阿Luck被測試得有點惱羞成怒,向專家陳迪源說「真實效果你能接受就接受,不能接受,AI就是這樣子!」
陳迪源形容黑心IT公司的AI技術,是業餘級的「天花板」,專業級的入門。
陳迪源形容黑心IT公司的AI技術,是業餘級的「天花板」,專業級的入門。
陳迪源強調,IT業界在AI換臉以至複製聲音的技術,整體進步得非常快。
陳迪源強調,IT業界在AI換臉以至複製聲音的技術,整體進步得非常快。
為針對各類詐騙案件,警方早前委任4名年輕警務人員為「防騙刑警」,化身防騙KOL提高公眾防騙意識。
為針對各類詐騙案件,警方早前委任4名年輕警務人員為「防騙刑警」,化身防騙KOL提高公眾防騙意識。
網絡安全及科技罪案調查科高級督察陳智穎稱,要破解AI換臉,可要求對方在鏡頭前面用手指慢慢橫過臉部。
網絡安全及科技罪案調查科高級督察陳智穎稱,要破解AI換臉,可要求對方在鏡頭前面用手指慢慢橫過臉部。
商業罪案調查科高級督察張文瀚提醒市民,與人通電話或視像通話時,縱然覺得對方聲音與自己親友十分相似,亦要慎防被騙。
商業罪案調查科高級督察張文瀚提醒市民,與人通電話或視像通話時,縱然覺得對方聲音與自己親友十分相似,亦要慎防被騙。

陳詢問能否模仿聲線,阿Luck即化身「加錢哥」,揚言只要肯加錢和提供聲線,便可以模仿得到,惟直言模仿粵語的話,相似度僅約6成。由於陳不斷提出一些測試AI系統的難度要求,例如用雙手遮臉等,AI影像立即變得模糊,手指變成透明,而男人勉強模仿女人臉孔,額頭位置和臉容兩邊也顯得不自然。阿Luck被測試得有點惱羞成怒,向專家陳迪源說「反正我演示的時候,真實效果你能接受就接受,不能接受,AI就是這樣子!」

測試完畢後,陳迪源對這間黑心IT公司的技術評價一般。「開始的時候我是有些期望,怎麼說也是拿出來賣給別人,應該有些斤両才敢這樣做,我還在想要怎樣才找到對方破綻,但結果你剛才也看到了,很多東西不攻自破。例如畫面有些情況邊界模糊,聲音只是用上變聲器、並非複製別人聲音。這個水平,我會形容是業餘級的「天花板」,但以專業級來說,是很入門的工具。」

惟陳迪源強調,IT業界在AI換臉以至複製聲音的技術,進步得非常快,他最擔心複製廣東話的技術,日後將會成為行騙工具。「暫時模擬聲音的技術,在英語或普通話方面會成熟一點,粵語方面沒那麼成熟。不過科技一日千里,或許半年或一年後廣東話語音的複製技術會開始普及,到時要更加小心。」

為針對各類詐騙案件,警方早前委任4名年輕警務人員為「防騙刑警」,化身防騙KOL提高公眾防騙意識。對於AI技術遭利用犯案,警方亦公開防騙貼士。「防騙刑警」之一的網絡安全及科技罪案調查科高級督察陳智穎稱,要破解AI換臉除了留意影片內人物的眼神,以及口型有否不自然之處外,亦可要求對方在鏡頭前面用手指慢慢橫過臉部,騙徒的電腦程式可能因為無法適應這突如其來的改變,因此出現穿崩。

商業罪案調查科高級督察張文瀚則提醒,當與他人通電話或進行視像通話時,縱然覺得對方的聲音與自己親友十分相似,亦不能排除被騙的機會,要嘗試從對話內容、一些只有親友間才知道的資訊,從而核實對方身份的真假。
______________________________________________________

《星島申訴王》為民請命抱不平、追蹤城中熱話,亦會搜羅坊間溫情小故事。你申訴,我跟進,WhatsApp搵91999933,《星島申訴王》隨時候命!

立即報料:https://bit.ly/3IMunqd

《星島頭條》APP經已推出最新版本,請立即更新,瀏覽更精彩內容:https://bit.ly/3yLrgYZ