Previous Next

《星島申訴王》早前踢爆有騙徒利用AI人工智能模擬聲音技術進行詐騙,惟當時有科技專家指,模擬英語聲音技術較先進,模擬廣東話沒那麼成熟。《星島申訴王》今次與一間專門提供網絡保安的跨國公司合作,邀請IT專家挑戰這個模擬廣東話技術難關,AI模擬著名股評人胡孟青「青姐」,以及經常帶觀眾「潮什麼」的旅遊達人梁芷珮(Christy)聲帶,事前記者獲得兩人同意,複製她們聲線去模擬一段詐騙錄音,看看效果如何。

直擊網上兜售AI犯罪技術 實測黑心IT公司換臉穿崩位

【點擊睇AI模擬聲線原理】

《星島申訴王》持續跟進騙徒利用科技詐騙的現象。
《星島申訴王》持續跟進騙徒利用科技詐騙的現象。
香港創科業界代表稱,人工智能(AI)模擬聲音的技術,用來模擬廣東話沒那麼成熟。
香港創科業界代表稱,人工智能(AI)模擬聲音的技術,用來模擬廣東話沒那麼成熟。
網絡保安主管Nick Ng(Nick sir)表示,廣東話很多俚語在字典上都是沒有,加上人工智能的訓練模式,原本設計用於英語,所以AI模擬廣東話聲線難度較高。
網絡保安主管Nick Ng(Nick sir)表示,廣東話很多俚語在字典上都是沒有,加上人工智能的訓練模式,原本設計用於英語,所以AI模擬廣東話聲線難度較高。
今次AI要模擬的名人,分別是著名股評人胡孟青「青姐」。
今次AI要模擬的名人,分別是著名股評人胡孟青「青姐」。
以及經常帶觀眾「潮什麼」的旅遊達人梁芷珮(Christy)。
以及經常帶觀眾「潮什麼」的旅遊達人梁芷珮(Christy)。
事前我們獲得兩位名人同意,複製她們聲線去模擬一段詐騙錄音,看看效果如何。
事前我們獲得兩位名人同意,複製她們聲線去模擬一段詐騙錄音,看看效果如何。
Nick sir與他的同事,客串誦讀一段模擬的詐騙錄音。
Nick sir與他的同事,客串誦讀一段模擬的詐騙錄音。
假扮青姐聲線讀出的內容,主要是她在股市已經「賺夠了」,想幫其他人賺些錢。
假扮青姐聲線讀出的內容,主要是她在股市已經「賺夠了」,想幫其他人賺些錢。
Nick sir表示AI扮聲,若果要做一個好的『模』,電腦大概需要學習2萬多步,以網上雲端設備運算的話,大概要用1天左右。
Nick sir表示AI扮聲,若果要做一個好的『模』,電腦大概需要學習2萬多步,以網上雲端設備運算的話,大概要用1天左右。
經過AI處理後,兩條聲音分別產生,可以讓名人點評。
經過AI處理後,兩條聲音分別產生,可以讓名人點評。
股評人胡孟青(青姐),覺得AI青姐的聲線刻意模仿她說話沒有尾音的特色,學到音調但學不到神韻。
股評人胡孟青(青姐),覺得AI青姐的聲線刻意模仿她說話沒有尾音的特色,學到音調但學不到神韻。
青姐指自己說話一向中氣十足,而AI青姐則不夠氣,好像中了COVID下的青姐狀態。(資料相片)
青姐指自己說話一向中氣十足,而AI青姐則不夠氣,好像中了COVID下的青姐狀態。(資料相片)
接下輪到Christy。她近年開辦旅行社,並親身帶團,所以《星島申訴王》模擬騙徒利用這一點來行騙。
接下輪到Christy。她近年開辦旅行社,並親身帶團,所以《星島申訴王》模擬騙徒利用這一點來行騙。
Christy聽過模擬她聲線的錄音後,覺得語氣很像,但聲線不太像。
Christy聽過模擬她聲線的錄音後,覺得語氣很像,但聲線不太像。
她指現時辦旅行社,已不是靠門市逐一見客,而是透過電話或WhatsApp確認所有交易。如果有人模擬到她的聲音,會有很大麻煩。(網上截圖)
她指現時辦旅行社,已不是靠門市逐一見客,而是透過電話或WhatsApp確認所有交易。如果有人模擬到她的聲音,會有很大麻煩。(網上截圖)
Nick sir表示,青姐的訪問一般很長,所以要拿她的聲音做「模」很簡單,效果亦較好,相對Christy每個訪問較短,又夾雜其他人的訪問及英語,會影響效果。
Nick sir表示,青姐的訪問一般很長,所以要拿她的聲音做「模」很簡單,效果亦較好,相對Christy每個訪問較短,又夾雜其他人的訪問及英語,會影響效果。

經過AI處理後,兩條聲音分別產生。胡孟青的模擬對白是「大家好,多謝大家一直支持青姐。老實說,我在股市都賺夠了,可能之後都會集中做教育和培訓,希望幫大家賺到一點錢。我今天公開一隻股票號碼,編號1234,這股票莊家我是認識的,接下來應該會大升,大家有興趣的話可以買少少。我退休了,應該不會再做股評人,如果想再交流,可以進入以下群組。」

《星島申訴王》細聽AI「青姐」,發現聲線有7、8分相像。惟真青姐聽過AI聲線後點評說:「它的聲音是平的,我說話的時候聲音不是這樣平的,他們想學我!因為我出了名說話沒有尾音,但現時出來的聲音,是好像不夠氣,認識青姐的人,也知道我很夠中氣,而它就好像中了COVID之下的青姐狀態。人工智能學到音調,但它學不到那種神韻,神韻很難學的。」

接下輪到Christy。她近年開辦旅行社,並親身帶團,所以《星島申訴王》模擬騙徒利用這一點來行騙,對白為「大家好,我是Christy梁芷珮。你想跟我一起出團玩、一起『潮什麼』嗎,立即點擊以下的連結吧。」

Christy聽過模擬她聲線的錄音後表示:「我覺得語氣很像,但聲線不太像,只是語氣像。」她表示現在辦旅行社,已不是靠門市逐一見客,而是透過電話或WhatsApp確認所有交易。如果有人模擬到她的聲音,欺騙對方直接存款,對於她們這類旅行社可能有很大影響。

今次實驗模擬了兩條聲音,效果有點分別。以聲論聲,AI模擬青姐的效果稍勝模擬Christy,該公司網絡保安主管Nick Sir有以下解釋:「青姐的訪問一般很長,所以要拿她的聲音做『模』很簡單;相對地Christy那個難度高一點,因為她每個訪問只有10分鐘或更短時間,中間又夾雜其他人的訪問及英語,因此效果會有點影響。」

詐騙大趨勢 AI助搵料寫詐騙電郵

AI用於詐騙所帶來的威脅,絕對不止於模擬聲音。Nick sir指近年不少駭客,都會用AI技術配合詐騙,入侵企業的電腦系統。
AI用於詐騙所帶來的威脅,絕對不止於模擬聲音。Nick sir指近年不少駭客,都會用AI技術配合詐騙,入侵企業的電腦系統。
駭客會在網上搜尋目標人物的個人資料,用大數據學習後,找到與目標人物有關係的朋友,再用這些資料去做一個AI的詐騙,成功率就會大大提高。
駭客會在網上搜尋目標人物的個人資料,用大數據學習後,找到與目標人物有關係的朋友,再用這些資料去做一個AI的詐騙,成功率就會大大提高。
駭客普遍瞄準一些大公司高層,把他們背景以至子女的名字都找到了,放在詐騙電郵的內容,令他們的同事及朋友,戒心因而降低。
駭客普遍瞄準一些大公司高層,把他們背景以至子女的名字都找到了,放在詐騙電郵的內容,令他們的同事及朋友,戒心因而降低。
企業電腦一旦遭到駭客入侵,後果可以很嚴重。今年7月,名古屋港就是因為被駭客入侵,令物流因此停擺,為日本史上首次發生的事件。(資料來源:TVBS)
企業電腦一旦遭到駭客入侵,後果可以很嚴重。今年7月,名古屋港就是因為被駭客入侵,令物流因此停擺,為日本史上首次發生的事件。(資料來源:TVBS)
部分企業遇上駭客勒索,願意支付贖金換取駭客解鎖,但專家認為駭客有機會在系統埋下「後門」,準備下次再勒索,建議企業寧願忍痛重建系統。
部分企業遇上駭客勒索,願意支付贖金換取駭客解鎖,但專家認為駭客有機會在系統埋下「後門」,準備下次再勒索,建議企業寧願忍痛重建系統。
大部分已知案件,接近9成案件是經過電郵入侵,所以在電郵安全做了足夠防範,已經很大程度保障到企業。
大部分已知案件,接近9成案件是經過電郵入侵,所以在電郵安全做了足夠防範,已經很大程度保障到企業。
針對近期湧現、利用AI配合詐騙的情況,香港警方一直提醒市民跟人通電話或進行視像通話時,就算覺得對方聲線與自己親友有多相似,都不能夠排除被騙的機會。(資料相片)
針對近期湧現、利用AI配合詐騙的情況,香港警方一直提醒市民跟人通電話或進行視像通話時,就算覺得對方聲線與自己親友有多相似,都不能夠排除被騙的機會。(資料相片)
警方建議市民嘗試從對話內容,例如說一些親友之間才知道的資訊,從而核實電話對方身份的真假。(資料相片)
警方建議市民嘗試從對話內容,例如說一些親友之間才知道的資訊,從而核實電話對方身份的真假。(資料相片)

鑑於近年人工智能技術(AI)愈趨成熟,有機會成為犯罪行為的輔助工具,當中利用「深偽技術」(Deepfake)換臉,「深偽技術」是透過收集個人樣貌、聲音等生物特徵,再合成或修改影片,假扮成受害人親友與其視像通話,目的是更容易接近受害人而已,之後的行騙過程均與其他騙案相似;警方提醒市民跟人通電話,或者進行視像通話時,就算覺得對方聲線與自己親友有多相似,都不能夠排除被騙的機會,應嘗試從對話內容,例如說一些親友之間才知道的資訊,從而核實對方身份的真假。

人工智能相關騙案防罪貼士:

  1. 要求對方在鏡頭前做指定動作,如手指於臉上橫掃、頭部上下左右轉頭等
  2. 提出個人問題測試對方身份真偽
  3. 切勿輕易提供人臉、指紋等生物辨識資料
  4. 提防親友在視述或錄音中提出匯款要求
  5. 避免接聽陌生視像通話來電

Nick Sir指,近年不少駭客都會用AI技術配合詐騙,入侵企業的電腦系統。「在網上搜尋你的個人資料,用大數據學習後,找到你有關係的朋友,再用這些資料去做一個AI的詐騙,成功率就會大大提高。駭客普遍瞄準一些大公司高層,把他們背景以至子女的名字都找到了,放在電郵內容,令他們的同事及朋友,戒心因而降低。」

Nick Sir表示,企業電腦一旦遭到駭客入侵,後果可以很嚴重,部分企業願意支付贖金,換取駭客解鎖,但他認為駭客隨時有機會在系統內埋下「後門」,準備下次再勒索,建議企業做好預防工作。「其實很大部分的已知案件,接近9成是經過電郵入侵,所以在電郵安全做了足夠防範,已經很大程度保障到公司。」

______________________________________________________

《星島申訴王》推出全新項目「區區有申訴」,並增設「我要讚佢」欄目,現誠邀市民投稿讚揚身邊好人好事,共建更有愛社區。立即「我要讚佢」︰ https://bit.ly/3uJ3yyF

《星島申訴王》為民請命抱不平、追蹤城中熱話,亦會搜羅坊間溫情小故事。你申訴,我跟進,WhatsApp搵91999933,《星島申訴王》隨時候命!立即報料:https://bit.ly/3IMunqd