深偽技術 Deepfake

[成吉思汗!]

深偽技術 Deepfake

深偽技術 Deepfake
https://zh.wikipedia.org/zh-hant/%E6%B7%...0%E6%9C%AF

深偽技術（英語：Deepfake）又稱深度偽造，是英文「deep learning」（深度學習）和「fake」（偽造）的混成詞[1]，專指基於人工智能的人體圖像合成技術的應用。此技術可將已有的圖像或影片疊加至目標圖像或影片上。

【Deepfake造假片】成犯罪工具勒索企業 花瓶都變影后
https://hk.news.appledaily.com/china/rea...1/59315396

內地網絡熱傳《射鵰英雄傳》的片段，女主角朱茵竟被人用「Deepfake」技術，變成女星楊冪。有學者擔心有人利用Deepfake技術，製作虛假影片，用作要脅及敲詐。 

相關新聞：【1.2億次瀏覽】朱茵變楊冪短片爆紅 換臉技術曾令「神奇女俠」慘變AV主角

浙江之江實驗室人工智能研究院技術負責人單海軍表示，這項技術就是利用人工智能深度學習的功能。要為片中人「換臉」，首先要收集大量數據，如《射鵰》短片中朱茵和楊冪，準備大量的照片給人工智能深度學習，第二步是訓練神經網絡，最後是人臉轉換，即AI完成圖像融合，把楊冪的臉部特徵完美地轉到朱茵的臉上 。從是次《射鵰》影片看，將朱茵替換為楊冪的「黃蓉」清晰度，達到一定水平。 

但目前，有人利用Deepfake技術製作色情內容、偽造政治家的公開演講等。除會損害影片的真實度，還可能被利用製造虛假證據，不法分子或製作出有關企業負責人行為不當的虛假影片，以此來要脅及勒索企業。 

亦有人提出，認為這是對原演員的不尊重，甚至會導致部份明星可以不用擔心演技問題，只要先用替身完成拍攝，最後再用AI技術進行換臉，省時又省力，甚至輕易成為「影帝」、「視后」。不少人還認為這嚴重侵犯了隱私和肖像權。 

Deepfake是一個通過機器學習技術搭建的系統，讓機器學習片中人的面部特徵，最後合成到影片中人物的面部。Deepfake搭建的系統可以通過Google圖片搜索、網絡圖庫、YouTube等途徑獲取素材，經過反覆訓練後，系統就會自動替換臉部訊息。學習樣本越多，還原度就會越高。 

2017年12月，一名用戶名為「Deepfake」的網友在Reddit論壇上發佈自己製作的換臉影片，將成人影片的女主角換成《神奇女俠》女角姬嘉鐸（Cal Gadot），看起來幾乎毫無破綻的影片震驚網絡，Deepfake的網名亦因而成為這項技術的名稱。

沒多久，同名算法在GitHub開源，由Deepfake技術製作的影片越來越多。2018年1月，還有人推出Windows程式的FakeApp，大大降低Deepfake的使用門檻。即使沒有任何人工智能方面的知識，亦可輕鬆自製換臉影片。 

由於許多用戶將Deepfake技術用於製作虛假影片，技術亦被全網封禁。不僅Reddit討論版被刪除，GitHub開源代碼也被清除、成人影片網站上也刪掉相關影片、FakeApp的官網也無法使用。惟在網上搜索Deepfake時，個別論壇仍發現相關的下載鏈接和安裝教程。

[成吉思汗!]

Top 10 Scary DeepFake Videos
https://www.youtube.com/watch?v=5t02JfpGfcQ
[youtube]5t02JfpGfcQ[/youtube]

深度文介紹！AV 女優換臉應用 Deepfake 技術大揭密
https://www.limitlessiq.com/news/post/view/id/3874/



Ali 李佳芯性愛片流出？「Deepfake」AI 技術朱茵都可變楊冪【有片睇】
https://ezone.ulifestyle.com.hk/article/...7%E3%80%91

[May35]

馬斯克：我想見「中國版」馬斯克 如果他是真的
https://finance.mingpao.com/fin/instantf...f%e7%9a%84



Twitter上有網民發布了「中國版」馬斯克的相片，特斯拉（Tesla）CEO 馬斯克回覆該網友時指：「我想見見這個人（如果他是真的）。現在有deepfake技術，很難分辨真假。」

「中國版」馬斯克「馬一龍0」在其微博上隔空回應稱：「我就在這裡，我也很想見你，我愛你。你是我的英雄。」

馬斯克Twitter稱自己可能會神秘死亡 暗示與俄烏戰爭有關 惹網民熱議

去年內地網上流傳一段影片，片中一名說普通話的男子，長相與特斯拉（Tesla）創辦人馬斯克極為相似，引來多地網民熱議。馬斯克曾在Twitte笑指，「我可能有中國血統。」（Maybe I’m partly Chinese!）

[May35]

深偽技術 Deepfake
https://zh.wikipedia.org/zh-hant/%E6%B7%...0%E6%9C%AF

深偽技術（英語：Deepfake）又稱深度偽造，是英文「deep learning」（深度學習）和「fake」（偽造）的混成詞[1]，專指基於人工智能的人體圖像合成技術的應用。此技術可將已有的圖像或影片疊加至目標圖像或影片上。

網紅小玉製作「換臉片」遭法辦！為何Deepfake讓AI變頭號網路犯罪公敵？
https://www.bnext.com.tw/article/57260/d...-learning?

[愛新覺羅]

科技罪案升四成 求職騙案飆2.5倍 市民墮刷單員騙案失380萬
https://www.am730.com.hk/%E6%9C%AC%E5%9C...%AC/341632

疫情下，市民更依賴互聯網，由網購至網上搵工愈來愈普遍，但亦成騙徒入手渠道。警方今年首8個月錄到科技罪案按年升39%，網購騙案佔當中三成七，其次是網上求職騙案，更升2.5倍，當中有市民墮刷單員騙案陷阱，3周失380萬元。除求職者易被騙，生產力促進局亦分享海外執法部門警示，有網絡罪犯竊取民眾資料，冒充他人應徵遠端工作職位(WFH)，藉此竊取該公司敏感資訊。為了助市民避開詐騙陷阱，警方推出一站式搜尋器「防騙視伏器」，讓市民提高警覺。

根據警方數字，今年首8個月共有14,160宗科技罪案，按年升39%，涉款金額亦增5.7%達20.4億元；當中網購騙案佔最多，達三成七(5,215宗)，較去年同期增加四成，損失金額則跌18%至4,680萬，警方解釋原因是高額損失案件減少。網購騙案外，其次佔最多的為網上求職騙案，達2,018宗，按年勁升2.5倍；損失金額則增近7倍至2.9億元，當中以刷單騙案最常見。警方昨日分享指，一名家庭主婦初時透過WhatsApp應徵兼職線上助理，後獲知實際工作為刷單員，在取得數百元「甜頭」後，陸續於3星期內轉帳380萬港元至騙徒戶口，當她無能力繼續入錢，想取回款項時，卻被騙徒訛稱涉及洗黑錢活動，無法取回。



Deepfake冒充身份見工 技術未成熟肉眼可分辨
疫情下除有求職者在網上平台尋找工作機會，亦有企業聘請人手時透過網上面試。香港生產力促進局數碼轉型部總經理兼香港電腦保安事故協調中心發言人陳仲文透露，今年6月，美國聯邦調查局(FBI)曾發出警示，指有網絡罪犯竊取民眾資料後，冒充當事人申請遠端工作(WFH)職位，並在網上面試時，利用深偽技術(Deepfake、利用人工智能的人體圖像合成技術為影片換臉)面試；犯罪分子主要針對IT職位，因崗位可存取企業內部系統，接觸公司及客戶的敏感資料，藉此取得不法利業。但陳仲文指，深偽技術發展尚未完美，僱主細心下憑肉眼亦可分辨，他建議可留意面試者的移動是否流暢、眨眼規律及嘴唇及說話速度是否吻合。

他亦提到香港的釣魚網站數量由今年第一季的806個，飆升5倍至第二季的5,033個，常見的假冒網站類型包括郵政服務、社會福利署紓困計劃、香港賽馬會、網上銀行等。海外曾出現利用AI變聲的釣魚攻擊，2019年一名英國能源公司的CEO誤信了騙徒假扮的德國母公司CEO，因而損失了24萬美元。

警推「防騙視伏器」助避詐騙陷阱
警方網絡安全及科技罪案調查科警司范俊業表示，市民若對網上招聘廣告或商戶背景等感到可疑，可進入警方守網者的網站(連結)，在「防騙視伏器」輸入相關平台的帳戶名稱、收款帳戶、電話號碼、電郵地址、網址等。網站會根據已收集的資料，利用紅、橙、黃及紫4色顯示「中伏」的可能性，紅色屬最高危、橙色屬中高級別、黃色代表可能中伏，需要提防；警方提醒紫色不代表完全「無伏」，只是未有紀錄，強調搜尋結果僅供參考，市民應自行判斷及查證。

此外，港府實施「0+3」後，市民急不及待計劃外遊，警方網絡安全及科技罪案調查科高級警司林焯豪表示，警方留意到有關假冒旅行社的社交專頁有上升趨勢，當用戶留言表示有興趣後，又會在私訊中催促盡快付費留位，結果騙徒逃去無蹤。他提醒，大閘蟹季節及聖誕假期即將來臨，旅遊禮品、食材等容易均被騙徒視作幌子，呼籲市民提高警覺。

疑似詐騙／網絡陷阱？
用「防騙視伏器」Check吓啦!
https://cyberdefender.hk/

[揸流攤]

最真实人工智能换脸--AI换脸背后的秘密（deepfacelab操作指南）
https://www.youtube.com/watch?v=fNiqYv5uA2Q
[youtube]fNiqYv5uA2Q[/youtube]

【Deepfake 換臉】 如果周星馳同吳孟達演《無間道》
https://www.youtube.com/watch?v=opEKjt49rrk
[youtube]opEKjt49rrk[/youtube]

[陪瞓導師]

盜女性照合成AV出售 網紅賠25萬
https://orientaldaily.on.cc/content/chin...00178_023/

台灣網紅小玉（本名朱玉宸）與莊姓男助理早前透過人工智能（AI）深度偽造換臉技術，把逾百位女性照片與AV女優影片合而為一，再對外發售，遭受害人高雄市議員黃捷等人循民事索償。台媒前天報道，兩人近日獲新北地方法院判處須向兩名受害人分別賠償100萬元新台幣（約25萬港元）。

已判囚5年半

助理莊炘睿由前年開始從網絡下載多名女性照片，小玉再利用軟件，製成換臉影片，之後再在網上出售。經調查，警方去年10月終於發現隱身幕後主腦正是小玉。在一審，小玉及莊男今年3月被判違反舍人資料法例罪成，分別獲判監5年6個月及3年8個月刑期。

在民事索償方面，21名受害者要求小玉及莊炘睿賠償，其中黃捷與另一名空姐索賠100萬元新台幣。審理法官認為，相關換臉影片至今仍在網絡流轉，對受害者造成精神痛苦及傷害，也侵害受害者肖像及名譽權，故作上述判決，全案仍可上訴。

[hippies]

「郭富城失去了一切」騙局有新版本 騙徒虛構馬斯克與習近平握手照│星島獨家
https://www.stheadline.com/breaking-news...8%E5%AE%B6



聲稱投資可獲高額回報的懷疑騙徒，近日在社交平台發放謊稱世界首富馬斯克已在香港啟動金融投資平台的帖子，惟其引誘投資或詐騙的手法是如何，至今仍一知半解。為查明真相，記者點擊帖子及輸入聯絡方式，不久接獲顯示來自英國倫敦的來電，操英語投資經理大力游說付款投資「自動化交易系統」，聲稱系統自動進行加密貨幣等投資，每月利潤隨時翻倍，記者託詞婉拒後，連日接獲約百個英國來電，對方似誓不罷休。

記者直擊英國騙徒行騙技倆
近日Facebook湧現廣告帖子，聲稱世界首富、Tesla公司行政總裁馬斯克(Elon Musk)的Elland Road數字金融平台已在香港獲批，並附有看似無綫電視女主播報道該消息的相片，背景則有馬斯克與中國國家主席習近平握手照，相信是移花接木製成的虛假圖片，字幕則寫上「每個人每天可賺取$10000起，投資只需HK$2000起」。

為查明其引誘投資甚至詐騙的手法，記者點擊帖子進入連結網頁，輸入姓名和電話號碼，並閱讀介紹該平台的文章，文中杜撰香港金融管理局副總裁李達志言論，指「我們很高興能夠為香港居民推出該項目」。








翌日下午，記者接獲顯示來自英國倫敦的來電(+44 20)，自稱投資經理的操英語男子 Hunt不斷游說投資「自動化交易系統」(automatic trading software)，稱系統會自動投資股票及加密貨幣等，最低投資額為250英磅(約2400港元)，開戶馬上可獲20%紅利(trading bonus)；最高投資額為5000英磅(約48000港元)，開戶可獲35%紅利。

Hunt隨後指示登入投資網頁，選擇Forex & Crypto CFD(意指外匯保證金交易與加密貨幣差價合約，即透過保證金放大槓桿的投資方式)的圖標，點擊後進入選擇投資金額的網頁，對方此刻催促選擇及網上付款，「每月至少有7%-20%回報，很多人翻倍！」

被問及如何提取利潤， Hunt稱可通過信用卡返還，若通過比特幣錢包(bitcoin wallet)收取更可免稅，記者以先行開設比特幣錢包為由婉拒即時付款，對方聞言不肯不休，稱可先開設最低金額戶口，「遲些可能沒有紅利！」記者表明數小時後可決定投資金額，對方才作罷。此後多天，記者收到上百個來自英國倫敦字頭的來電。

杜撰名人投資獲取暴利、引誘投資詐財的騙局，至少5年前在英國出現，有關騙局及至2019年傳遍各地，本港亦出現以「郭富城失去了一切」和「陳國基最新投資令各專家無語」為標題的詐騙帖子，至今各地仍有不少人受騙。

據悉，各地警方雖致力打擊相關騙案，但因騙徒往往跨國致電詐騙，並利用VPN(虛擬私人網路virtual private network)等技術隱藏身位置，令執法難度大增。

[‎成吉思汗]

AI變臉｜騙徒手法層出不窮 AI「16秒變6張臉」有人因此被騙430萬人幣
https://hk.news.yahoo.com/ai%E8%AE%8A%E8...41373.html


AI變臉｜騙徒手法層出不窮 AI「16秒變6張臉」有人因此被騙430萬人幣
AI科技發展日新月異，為不少行業帶來貢獻，但亦讓詐騙集團有機可乘，利用AI使出新的欺騙手法，令人防不勝防。

據內媒報道，近日中國一名科技公司老闆在與朋友視像交流完畢後，10分鐘內就被騙走430萬元人民幣，後來被揭發是受AI換臉技術所騙。中國公安部治安管理局在官方微博上轉載有關AI技術的換臉影片，警醒大眾需提防網絡交友。

該影片原先由網友「超級頭腦AI魔法師」上傳，再經中國各地公安的官方微博轉發分享。從影片可見，一名穿搭牛仔外套的女子邊走邊說「你以為你聊天的女網友長這樣」，然後她手一揮就變了另一張臉，連脖子、肚子的膚色都跟著改變，她又稱「實際上他們可能是長這樣…」，瞬間變成一張大媽臉，連膚色都變得蠟黃，甚至還有東南亞臉孔；在短短的16秒內，一共變了6張臉。

影片曝光後，網友紛紛留言表示，「眼見不一定為憑」、「最後一張臉把我驚呆了」、「馬甲線都不變」、「媽呀太危險了」、「現在網路上都看不到多少真實的人了」、「防不勝防」、「現在技術真的厲害」、「詐騙集團也用高科技」、「別說樣子，連身材也能AI調整」、「只有馬甲線是真的」。

[Banff]

深偽高層指令匯款 呃走跨國公司兩億
https://www.wenweipo.com/a/202402/04/AP6...0a7e8.html

騙徒「AI換臉變聲」開視像會議騙過港分部 職員向總部查詢始知大鑊

人工智能「深度偽造」技術被用來行騙，詐騙集團向一間跨國公司的香港分公司下手食「大茶飯」。詐騙集團事先在網上搜集該公司英國總部一眾高層的面部和聲音數據，透過深偽技術將騙徒換上多名公司高層的面貌和聲音，再按劇本預製「高層發言」短片，繼而以總部首席財務官名義發出釣魚信息，邀請香港公司職員參加線上「視像會議」，聽取「機密交易」匯款指令。由於與會高層都被集體「變臉」，「熟口熟面」加上聲音都似，令香港職員不虞有詐，遂按「最高指示」分多次將合共兩億港元轉賬至5個本地銀行戶口，直至日前向總部查詢始知受騙。這是本港首宗AI「多人變臉」騙案例，也是迄今損失最大的「變臉」案例。

◆香港文匯報記者 曾立本

據香港警方案情透露，被騙的是一間總部設在英國的跨國公司，在香港設有分公司。警方相信，騙徒在設置AI「變臉」騙局前，可能用「釣魚」軟件或其他網上途徑，掌握到公司內部人員架構及運作模式等資料，然後設計好行騙劇本，令受害人以為是日常商業操作。

騙徒疑摸透內部資料 準備「面具」劇本

騙徒在搜集了該公司英國高層在YouTube上公開的影像後，再利用人工智能「深度偽造」技術製造，給騙徒換上英國高層的面部和聲音。據悉，騙徒為防露出破綻，平日與香港分公司有密切工作關係的總部首席財務官面部和聲線「深偽」得仿真度頗高。今年1月中，涉案騙徒以「英國總部首席財務官」的名義，向香港分公司的財務職員發信息，聲稱公司要進行一項「機密交易」，邀請香港職員登入網上多人視像會議「開會」。視像會議的畫面上有4名至6名英國總部高層人員，包括眾人熟悉的英國總部首席財務官，其他高層也「熟口熟面」。

會議期間，該「英國總部首席財務官」要求香港分公司職員簡短自我介紹，接着其他高層簡短「討論」公司的交易決策，着「首席財務官」跟進香港分公司匯款事宜。香港職員見眾高層與真人「一模一樣」，故不虞有詐。其後，該「總部首席財務官」透過即時通訊軟件向香港分公司財務職員下達轉款指示，一星期內分15次，將合共兩億港元存入5個本地銀行戶口，作為「機密交易」資金。

「最高指示」掩飾單向播片 避免互動穿幫

今年1月底，香港公司財務職員向公司總部查詢時始揭發被騙。香港警方經深入調查，發現這次AI「變臉」有幾個特點：

一、為令受害人更加相信，騙徒用「深偽技術」偽冒多人多角色臉譜；

二、騙徒用真人換上英國高層的面部和聲音後，實際上他們在視像上的發言，是根據按事前寫好的講稿拍攝的預製片段，故會議上不能與香港職員有對話互動，即不給香港職員提問機會；

三、為免露出破綻，「視像會議」在短短數分鐘內結束；

四、所謂總部高層現身直接下指令，只是要給香港公司職員營造一個「最高指示」的場景，令職員深信是真實決策。

網絡安全及科技罪案調查科網絡安全組署理高級警司陳純青表示，利用人工智能「深度偽造」的欺詐手法，與傳統詐騙手法其實如出一轍，只是利用不同手段以取得受害人信任進行詐騙，最終目的主要是誘騙受害人將款項轉賬到騙徒指定戶口。

他強調，雖然科技發展一日千里，只要市民時刻保持警惕，養成一個高防騙意識的習慣，對任何社交平台或通訊軟件所收到信息，也要有一個查證真偽的意識及必須要有行動，謹記在人工智能「深偽技術」下，網上已經「眼見不一定為實，有圖有片亦不一定是真相」。


警首揭Deepfake扮高管騙走兩億
https://hk.news.yahoo.com/%E8%AD%A6%E9%A...00038.html

警方首次發現有騙徒利用人工智能深偽技術（Deepfake）在網上會議假冒成多名人士，欺騙與會的一名職員，這名職員最終分15次，把2億元轉賬至5個本地戶口。今次是本港至今單一損失金額最大的深度偽造技術騙案。

開視像會議落轉賬指示
警方上月接報，有騙徒假冒一間跨國公司的英國總部「首席財務官」，要求公司香港分行財務職員參與一場機密交易會議，騙徒透過深偽技術生成虛擬短片，在「視像會議」上向職員作出「投資」指示，要求轉賬大額金錢至不同戶口，其後匆匆結束會議，令職員不敢提問。案中事主不虞有詐，按指示在一周內轉賬15次至5個本地戶口，合計涉2億元，之後與英國總部同事溝通時，發現受騙後報警。

人工智能迅速發展，深偽影片已幾可亂真。警方調查發現，案中「視像會議」的影像，與被冒認的跨國公司首席財務官部分網上公開影像及聲音一致，相信騙徒預先下載影片，並以AI技術配上偽冒聲音讀稿，用於會議中播放誘騙職員執行指示；涉案影片由騙徒預製，片中無法與他人對話，內容僅要求各人簡短自我介紹，之後大部分時間在直接下達命令，再以藉口結束會議，其後再於通訊軟件繼續對話。

網絡安全及科技罪案調查科署理高級督察陳智穎指出，騙徒會傾向由公司員工下手，假扮他們的上司，在一般情況下，下屬未必會打斷上司發言，如果加入一些迫切的感覺，例如說上司很忙，下達指令後便要離開會議，有問題就在會後聯絡某人，導致受害者就算有問題也未必即時提問。網絡安全及科技罪案調查科署理高級警司陳純青說，以往市民的戒備心是在單對單的視像會議上，這次發生在多人參與的視像會議，事主所見的對象全部都是虛假偽造。

警方去年首11個月錄得逾3.1萬宗科技罪案，按年急增53%；騙款損失50.9億元，按年多出72%。期內網上投資騙案4700多宗，大增1.8倍；損失金額增2.5倍。警方暫無備存涉及AI技術的騙案數字，也沒有發現這類手法有上升趨勢，惟這手法成本低，日後恐怕會再次出現。

警方呼籲市民收到可疑轉賬請求時，應該以常用溝通渠道再三向對方確認，減低受騙風險。警方專家又建議市民把可疑短片上載至免費網上偵測平台，平台會根據短片訊號判斷是否以深偽技術製作。上月曾出現一段利用人工智能（AI）偽造，假冒特首李家超向市民推介高回報投資計劃的影片於網上流傳。金融管理局總裁余偉文過去出席公開場合的發言及畫面，亦被騙徒利用深偽技術製成投資計劃的片段，影片還加插港交所（00388）前行政總裁李小加的身影，聲稱兩大監管機構舵手聯合推動「益街坊」投資計劃。


深偽技術興起　難分真假或墮騙局　方保僑建議叫對方遮臉
https://hk.on.cc/hk/bkn/cnt/news/2024021...2_001.html


科技日新月異，近年人工智能興起，「深偽技術」(Deepfake)的偽冒難分真假，市民要小心提防騙徒藉此騙財。香港資訊科技商會榮譽會長方保僑今日（13日）表示，本來「深偽技術」對電腦要求高，但科技進步後很多已可在雲端處理，又舉例指早前網上出現很多AI歌手唱歌片段，連唱歌也能扮到，說話自然沒太大難度，市民若日後收到不明來電、短訊等有機會是虛假騙案，需要小心，因眼看的事物也未為真，或會感到無所適從；他建議市民若有懷疑，可叫對方做不同表情或遮臉等辨真假。

方保僑表示，現時很多人或會用公眾人物在網上的片段，給予機械學習而造假，但大眾便很難做到，故若有人突然來電要求視像對話，他建議市民必需小心，因此類通話或許在接通後已錄影，然後藉此造假，強調「騙徒同我哋一齊成長緊，唔係得我哋識用ChatGPT，佢哋就唔識用AI。」

被問及如何監管此類科技，他直指現時很難做到，因為市民若在一般視像通話上感到懷疑，可以叫對方遮臉、做不同表情以辨別真偽，「但如果係你老闆叫你開會，唔通話老闆我懷疑你係假嘅」，因此特殊情況下實在難以處理。早前本港亦曾發生2億騙案，騙徒以「深偽技術」偽冒影像，與一所跨國公司香港分行的財務職員進行多人視像會議，前後騙去2億港元，他指相信騙徒是十分熟悉該公司才可以做到。