公司訊息｜三商美邦鳳翔月刊

封印解除！惡意GPT暴走成為脫韁野馬？生成式AI讓社交工程攻擊大進化

列印

文/ 資訊安全部

某知名手機名言：科技始終來自於人性。人性善惡是決定科技帶給人們便利或災難的根因，近來生成式AI已成為不可或缺的好幫手，但同時也被惡意運用，以ChatGPT為例，原系統有預設的道德限制，拒絕回答不合理、不合法的問題；然而「惡意GPT」被駭客強行拆解了「道德限制」系統封印，並藉由惡意GPT來產生惡意程式和釣魚信件。設計成為惡意聊天機器人，再以社交工程方式，從受害者挖掘機敏資訊後，回傳給駭客。

防毒科技大廠發現駭客已利用生成式AI精進社交工程攻擊，生成更具吸引力的釣餌，提高詐騙成功機率，今年駭客將會同時運用聊天機器人和語音偽造等多種AI工具，製造多面向的詐騙手法。例如詐騙集團就曾利用AI合成偽造英國某能源企業母公司高階主管的聲音，電告部屬謊稱其供應商急需資金，要求1小時內匯款，進而詐取24.3萬美元。

對於這類案件我們應該如何自保呢？防範技術與導入新興資安防禦科技固然重要，但終究還是回歸到人性，強化資安意識是才是正解，列舉如下：

1、資安意識訓練，包含社交工程的識別及預防，或以結合KPI獎勵方式舉辦模擬演練，讓員工體驗真實情況中會發生的資安事件，以及應採取何種措施來應對社交工程攻擊，演練表現優異單位KPI加分獎勵。

2、對於非業務相關之事務保有警覺心，以免掉入駭客設計的圈套。

3、若接到主管急需轉帳或匯款的訊息或電話(現在連撥號來源也可能偽造)時，先保持冷靜，放下電話，以其他方式聯絡當事人或其他相關人員(例如主管秘書或特助)，確認主管現況。

4、若對方要求用難以追蹤的支付方式，如禮品卡或比特幣轉帳，就可合理懷疑是詐騙。