$type=sticky$c=4$show=home$d=0$cm=0$hide=mobile$a=0

【易誤解】拿手機對著你?AI工具假冒他人的詐騙?勿過度解讀!資安專家與警方詳解

你可以先知道:

(1)警方表示,目前 AI 影音詐騙主要是假冒名人,台灣尚未出現以深偽技術假冒素人進行詐騙的案件。

(2)資安專家指出,傳言影片中展示的方法雖然可行,但其實對手機設備、外在環境等相關要求非常高。

(3)MyGoPen 在近一周內收到 418 次影片提問,因此進行查證。綜合專家與警方解釋,提醒民眾勿過度解讀網路創作短片。

網傳「身邊每一個拿手機對著你的人」、「用來詐騙賺錢」的訊息和影片,短影片示範只需要 5 秒的影音素材,就能以 AI 技術快速生成假冒他人的假影片來進行詐騙。MyGoPen 詢問刑事局和資安專家,警方表示,影片中展示的 AI 技術確實是可以達到的,但目前詐騙集團主要是將深偽用在假冒名人上,台灣尚無此類應用;資安專家劉彥伯則指出,這類強調「AI 科技帶來威脅」的影片,忽略了目前 AI 技術上的限制,傳言影片中展示的快速臉部建模,雖然可行,但其實對手機設備、外在環境等相關要求非常高。總結來說,民眾對深偽技術的詐騙提高警覺是好事,但不需過度擔心,警方也建議民眾可以和親友建立通關密語,在提到和財務有關的問題時,以通關密語測試螢幕另一邊的人到底是真是假。

AI影音工具假冒的詐騙手法?


原始謠傳版本:
這世界真的很可怕及完蛋了,科技越好不用在正途上,用來詐騙賺錢好可惡的行爲哩!真的要好好的防騙哩!對不認識的人要查言觀色,以免被騙喔!防人之心不可無!

主要流傳這段影片



並在社群平台流傳:

網路上還有許多一模一樣的影片腳本。

查證解釋:

網傳影片中描述的狀況是否為真?


(一)MyGoPen 實際詢問內政部警政署刑事局與資安專家劉彥伯,警方表示,網傳影片中的狀況以目前的 AI 技術確實能做到,不過此類案件都是發生在國外,先前了解到國外有這樣的狀況時,台灣就已經開始在做相關宣導。

刑事警察局官方 YouTube 在 2024 年 3 月 29 日就推出一則「寶貝女兒是真是假?」的宣導影片,內容是分享國外利用 Deepfake 技術進行犯罪的情境,演示深偽技術可以複製受害人親朋好友的影像與聲音以進行勒索、要求轉帳。

在資安方面,警方建議,親友間可先建立好通關密語,遇到親友談到帳戶,務必以事先約定好的通關密語或近期親友的共同活動進行測試;也提醒民眾保護自己的個人資訊,個人Facebook、Instagram、Line 等帳戶被盜就容易遇上深偽詐欺。

(二)劉彥伯表示,從 AI 話題延燒後,中國這類「擺拍博眼球」的虛假短片越來越多,其實中國當局已經對此提出了警示,但由於影片數量眾多所以還是跨海來到台灣。

這類強調「AI 科技帶來威脅」的影片,其實都有共同特徵,就是誇大 AI 的能力,卻完全忽略目前 AI 技術上的限制

例如目前要用人工智慧去生成一部幾可亂真的影片,其實需要仰賴大量的電腦算力,無法單純透過手機運算,即使透過雲端服務也需要非常長的時間。

另外影片中有展示到透過手機做快速臉部建模,雖然可行,但其實對手機設備、外在環境等相關要求非常高。而影片中的環境光相對微弱,所以並無法像展示那樣容易,而建模的好壞更會牽動整體臉部上的連動效果。

劉彥伯表示,綜合以上觀點,我們更可以去推論上述影片中的效果更像是拍了兩部影片,再透過剪接假裝是 AI 產出的前後影片資訊安全很重要,我們不能忽略 AI 新科技帶來的新威脅,但也提醒對於這樣的影片,不應該過度解讀自己嚇自己

目前台灣 AI 影音的詐騙類型


警方指出,目前詐騙集團主要將深偽技術用在假冒名人,因為名人的影像、聲音等資料在網路上容易取得,通常會應用在投資詐騙上,比如以深偽技術假冒財經專家、知名企業,製作成假影片後投放廣告,引導民眾加入封閉式的通訊軟體。

待民眾加入 LINE、Telegram 等群組後,詐騙集團會每天固定時間提供假造的教學影音,以此包裝其專業度,藉此取信被害人,再誘使被害人加入詐騙投資 APP 平臺,讓被害人活在深偽包圍的網路環境。

【2024/11/21 更新】關於 AI 影片的詐騙,警方補充:沒有因為 AI 詐騙而來報案的財損案件,事實上只是很多被害人不知道詐騙他的是不是 AI,例如:假吳淡如、假謝金河的「說話影音」要求加入群組的狀況。

至於傳言影片中以深偽技術假冒素人的方式,警方表示這不太會是集團犯罪的手法,一來是影像、聲音等資料不像名人那麼容易取得,二來是採取這種方式的犯人通常是被害者親近的人,不難排查

但國外確實存在這樣的個案,如果被鎖定目標、觀察已久,且犯人熟知被害人身邊的親友狀況,未來台灣的確也可能發生,民眾除了提升警覺心之外,也建議可先和親友建立好通關密語。

資料來源:

CIB刑事警察局 YouTube - AI詐騙-月子篇
內政部警政署刑事局 - 「寶貝女兒是真是假」刑事局推出預防深偽詐騙宣導影片

單位諮詢:內政部警政署刑事局

專家諮詢:資安專家 - 劉彥伯
分享給LINE好友 !
名稱

101,1,165,2,311,3,3D,1,5G,2,7-ELEVEN,2,二氧化碳,2,人工智慧,1,人民幣,1,十足目虹彩,1,三重,1,上海,4,下雨,10,下雪,2,口罩,30,土耳其,17,大麻,2,大腸,2,大蒜,10,小孩,3,川普,45,工作,4,不丹,1,中共,20,中油,2,中研院,1,中秋,5,中風,20,中國,343,中暑,2,中華郵政,1,中華電信,2,中醫,48,中藥,9,丹麥,3,內容農場,287,公文,1,公告,9,公投,10,公益,5,化妝品,2,厄瓜多,1,天津,2,天氣,15,太空,4,太陽,5,太陽能,2,巴西,11,巴林王子,1,巴勒斯坦,37,巴基斯坦,1,巴爾的摩,1,巴黎,7,心肌梗塞,17,心臟,15,手勢,1,手機,18,日本,111,月亮,2,月餅,1,木耳,1,比利時,3,比爾蓋茲,11,比賽,3,水災,12,水果,28,水族館,1,火力發電,1,火山,2,火災,30,火車,8,火星,2,火箭,1,火龍果,2,火鍋,1,牙膏,2,牙齒,6,牛奶,9,牛排,1,王毅,1,世界衛生組織,12,仙人掌,2,以色列,84,充電,1,冬天,1,加州,9,加油,2,加拿大,19,加密貨幣,1,加薩走廊,12,北京,5,北約,6,北海道,2,北韓,13,半導體,1,可樂,2,台大,2,台中,13,台北,18,台東,1,台南,12,台電,11,台積電,7,台鐵,1,台灣,213,史丹佛,1,四川,1,外交,1,外星人,1,外勞,3,央視,2,失眠,1,失智症,22,尼加拉瓜,1,左手香,1,巧克力,1,打字員,1,打雷,1,民眾黨,5,民進黨,13,民調,1,犯罪,3,玉米,2,瓜地馬拉,1,瓦格納,2,生魚片,1,白人,2,白內障,1,白血病,1,白宮,5,皮膚,1,石油,1,石虎,1,穴道,8,立法院,1,立陶宛,1,交流道,1,交通,110,伊拉克,1,伊朗,21,伊斯蘭國,3,伊維菌素,7,全家,1,全聯,3,冰水,2,冰箱,1,印尼,6,印度,31,合成,12,同志,6,同性戀,2,同婚,1,名片,1,地瓜,2,地瓜葉,2,地球,1,地圖,1,地震,44,地鐵,1,好康,18,安倍晉三,3,安眠藥,1,安樂死,1,早餐,2,有毒,100,江蕙,1,污染,3,米酒,1,老人,7,老師,1,耳朵,3,肉桂,2,自我訓練,8,自我檢測,12,自救,9,自然景觀,2,自然療法,1,舌頭,3,血栓,12,血氧,2,血脂,4,血液,3,血管,6,血糖,3,血壓,1,行動電源,3,行銷手法,11,西瓜,1,西安,1,西班牙,9,西藏,1,佛羅里達州,2,免洗筷,2,免疫力,4,免費,2,利比亞,1,吸菸,2,呂秀蓮,1,宏都拉斯,1,希拉蕊,1,快篩,21,投票,54,投資,10,抖音,54,抗生素,2,抗議,14,抗議活動,32,李登輝,1,李顯龍,1,杜拜,10,杜特蒂,1,杜勒斯十條,1,求職,3,汽車,6,沙烏地阿拉伯,5,災難,35,罕見疾病,1,肝臟,2,芒果,2,豆腐,2,身分證,3,車禍,18,防腐劑,1,乳癌,1,事實查核,11,亞美尼亞,1,亞硝酸鹽,1,亞塞拜然,2,佩洛西,14,兒童,1,周杰倫,2,咖啡,6,委內瑞拉,3,孟加拉,2,宗教,7,宜蘭,6,岸田文雄,2,帕金森氏症,2,抽筋,2,抽菸,1,東京,2,板橋,1,枕頭,1,林口,1,果汁,2,武漢,1,武器,9,法律,25,法院,6,法國,28,法規,10,法輪功,1,泡麵,1,波蘭,4,物理,1,狗,1,狗肉,1,社團,1,空污,1,空軍,1,肥皂,1,肺炎,15,芝加哥,2,芬蘭,4,芭樂,3,花,3,花生,4,花椰菜,1,花蓮,13,表演,11,近視,3,金氏,1,金正恩,2,金門,11,金針花,1,長輩,3,阿里巴巴,1,阿姆斯特丹,1,阿拉斯加,1,阿根廷,4,阿茲海默症,12,阿婆,1,阿富汗,6,阿斯匹靈,2,阿爾及利亞,2,阿爾巴尼亞,1,非洲,6,侯友宜,2,便秘,1,俄羅斯,189,保加利亞,2,保養,16,保險,10,保麗龍,1,信用卡,9,冒名,20,冠名,2,冠狀病毒,61,南瓜,1,南投,3,南非,1,南海,1,哈佛,1,哈瑪斯,20,哈薩克,1,宣導,31,封城,1,屏東,9,幽浮,1,後製,108,急救,12,恆述法師,1,拜登,34,指甲,1,按摩,3,政府,8,政治,71,政策,138,星巴克,3,柑橘,1,柬埔寨,9,柯文哲,7,毒品,10,洋蔥,4,洗澡,1,洛杉磯,2,洪水,2,活動,43,流汗,1,流浪狗,1,流感,15,珍珠奶茶,2,疫苗,246,疫情,207,研究,10,科技,5,科威特,2,科學,2,紅茶,4,紅酒,1,紅棗,2,美國,376,美國總統,60,胃,1,背景不明,35,胡塞組織,4,苗栗,2,苦瓜,2,英國,40,虐待,4,計程車,2,軍人,4,軍公教,5,重金屬,3,韭菜,2,飛碟,2,飛彈,6,飛機,24,食用油,2,食安,186,食物,9,首爾,2,香港,11,香菇,1,香蕉,9,修圖,15,個人說法,31,倫敦,1,原住民,2,哥倫比亞,1,唐鳳,1,埃及,5,埔里,1,夏天,1,夏威夷,2,娛樂城,2,宮廟,1,恐怖份子,2,挪威,1,旅遊,1,核能,18,核酸檢測,9,核廢水,26,桃園,12,氣象,5,氧化石墨烯,1,泰國,21,海洋,2,海苔,1,海軍,1,海鮮,5,烏克蘭,166,烤肉,1,特效,16,特斯拉,3,病毒,28,益生菌,1,真實資訊,118,神蹟,5,神藥,1,秘方,1,秘魯,1,秦剛,1,笑話,4,納粹,1,紐西蘭,2,紐約,8,素食,7,索馬利蘭,1,胰臟,1,脂肪,2,航母,2,茭白筍,1,茶,13,草莓,3,草酸,1,荔枝,1,蚊子,1,迷因,4,迷信,3,退化性關節炎,2,酒駕,2,閃電,2,陝西,1,馬克宏,3,馬來西亞,4,馬拉度納,1,馬英九,2,馬祖,3,馬斯克,7,馬雲,1,馬爾地夫,1,骨刺,1,高血壓,9,高速公路,4,高雄,33,高端,3,高壓電,3,高麗菜,2,高鐵,5,乾隆,1,假公益,4,假好康,64,假知識,126,假政策,60,假活動,19,假科學,32,假帳號,5,假教學,14,假連結,9,假尋人,4,假新聞,177,假圖片,219,假實驗,1,假影片,339,假養生,137,假醫學,182,偏方,53,健保,6,健康,147,唱歌,2,問卷,4,國父,1,國民黨,10,國防,22,國防部,8,國道,3,國旗,6,基因,1,基隆,3,寄生蟲,10,張忠謀,2,強姦,1,悠遊卡,3,情境劇,1,捷克,3,捷運,4,排尿,5,排毒,3,敘利亞,4,教宗,1,教育,5,教堂,1,教學,43,梵蒂岡,2,深偽,3,淹水,2,添加物,5,眼睛,18,眼鏡,2,視力,3,視網膜,1,移工,1,細菌,4,習明澤,1,習近平,14,聊天機器人,2,脫水,1,船,1,荷爾蒙,1,莫斯科,2,蛇,3,連假,1,郭台銘,4,野火,3,釣魚網站,28,陰謀論,143,陳水扁,1,陳時中,1,魚,7,魚刺,1,鳥類,4,麥當勞,6,麻州,1,麻油,1,麻醉,1,勞工,4,勞保,1,喜馬拉雅山,1,喝水,16,喝酒,16,單寧酸,1,報紙,1,媒體識讀,5,寒流,1,復健,4,惡作劇,18,惡意推銷,13,斯洛伐克,2,普丁,20,普拿疼,3,普篩,2,晶片,4,智利,1,棉花,2,棒球,1,植物,10,減肥,1,無人機,5,猴子,3,猴痘,8,猶太人,1,番茄,3,痛風,1,登革熱,1,發電,2,發燒,2,硝酸鹽,1,結石,2,結婚,2,腎臟,3,菠菜,1,華人,1,華為,6,菲律賓,10,萊克多巴胺,5,詐騙,306,詐騙集團,227,費玉清,2,貼文小幫手,1,賀錦麗,12,超市,5,超商,6,越南,13,郵局,6,郵差,1,鈔票,3,陽明山,1,雲手機,1,雲林,1,雲豹,1,飯店,1,黃豆,1,黃金,1,黃珊珊,1,黑人,3,黑道,1,傳染病,1,塑化劑,6,塑膠,3,塔利班,1,奧地利,1,奧運,20,廈門,1,微波爐,1,微信,6,意外,6,愚人節,1,愛心,3,愛滋病,9,愛爾蘭,1,感冒,3,搶劫,4,新加坡,10,新北,12,新竹,5,新聞,83,新疆,3,椰子,1,極光,1,概念設計,4,溫水,2,照片,171,瑞士,5,瑞典,2,睡眠,7,禽流感,1,筷子,1,義大利,9,義美,1,聖誕節,1,腫瘤,48,腳踝,1,葉門,2,葉黃素,1,葡萄,2,蜂蜜,5,補助,16,誇大,67,資安,6,資訊安全,125,跳舞,6,農業,1,農藥,7,遊行,7,遊戲,25,運動,24,過年,1,過敏,1,過期,19,過期資訊,99,酪梨,3,電子郵件,3,電池,2,電動車,6,電梯,2,電視台,2,電費,2,電腦,1,電腦動畫,43,電話,13,電磁波,10,電影,10,嘉義,4,圖片,73,壽命,1,實聯制,4,實驗,7,彰化,4,慈湖,1,慈濟,2,榮總,2,榴槤,1,槍擊,10,漁業,1,演習,6,漱口,1,監理站,1,碳排放,1,磁鐵,1,福利,1,福建,2,福島,1,端午節,1,綠豆,2,維他命,1,維他命C,2,維他命D,3,維生素,1,網紅,2,網購,1,罰單,12,蒙古,3,蒲公英,1,蜜蜂,4,語音,3,誤解,308,誤導,1123,趙少康,1,遠傳,1,酸性,11,銀行,27,颱風,11,鳳梨,4,導彈,1,廢水,5,廣州,3,廣告,14,廣東,5,影片,1267,德州,7,德國,31,摩洛哥,1,敷臉,1,暴力,9,暴動,3,歐巴馬,2,歐洲,3,歐盟,5,潛艦,1,瘦肉精,6,緬甸,7,膝蓋,4,蔡英文,13,蔥,1,蝙蝠,1,蝦子,3,蝦皮購物,2,衛生紙,2,衛星,1,衛福部,3,課本,2,調查局,1,豬肉,12,豬油,2,輝瑞,28,養生,10,養殖,1,黎巴嫩,15,墨西哥,11,器官,1,學校,9,戰爭,227,樹,1,機車,2,機場,5,機器人,7,澤倫斯基,5,澳洲,18,激素,2,燃煤,2,燙傷,7,穆斯林,1,篩檢,7,糖尿病,17,蕨類,1,螞蟻,1,螢光劑,2,貓,1,貓空,1,賴清德,7,輻射,24,選舉,110,錄音,5,錄音檔,11,頭痛,1,頭髮,1,駭客,2,龍捲風,2,嬰兒,4,檢舉達人,4,營養,12,環保,1,癌症,144,總統,57,總統府,1,聯合國,10,膽固醇,2,臉書,358,薑,4,薑湯,1,蟑螂,2,謝金河,1,謠言,2643,謠傳,213,購物,3,韓國,31,韓國瑜,1,颶風,3,鴻海,1,檸檬,6,簡訊,11,舊金山,2,藍牙,1,醫院,1,醫學,26,醫療,12,雞肉,1,雞蛋,28,鯊魚,1,寵物,4,懷孕,1,爆炸,43,簽到,1,羅馬尼亞,2,藝術作品,14,藥物,5,譚德塞,1,關島,1,寶特瓶,3,蘇丹,2,蘇格蘭,2,蘋果,10,蘑菇,2,觸電,2,警察,23,麵包,2,攝護腺,2,護照,4,霸凌,3,魔術,3,聽歌賺錢,1,聽障,1,蘿蔔,3,變性,1,顯微鏡,5,黴菌,1,黴漿菌,1,鹼性,10,鹽水,6,AI,42,AIT,3,Amazon,1,APP,11,Apple,2,BNT,2,CNN,5,costco,3,COVID-19,619,Deepfake,5,DHL,1,DIY,12,ECFA,1,Email,2,Facebook,483,FBI,1,FDA,8,Google,9,ICU,1,IFCN,5,Instagram,3,iphone,1,ISIS,3,LINE,1286,M痘,2,meta,1,mRNA,16,MT5,1,NMN,1,Omicron,24,PCR,5,PTT,13,QRcode,6,thunberg,1,TikTok,51,Twitter,47,WEF,1,WHO,18,XBB,2,Yahoo,2,YouTube,98,
ltr
item
MyGoPen: 【易誤解】拿手機對著你?AI工具假冒他人的詐騙?勿過度解讀!資安專家與警方詳解
【易誤解】拿手機對著你?AI工具假冒他人的詐騙?勿過度解讀!資安專家與警方詳解
網傳「身邊每一個拿手機對著你的人」、「用來詐騙賺錢」的訊息和影片,短影片示範只需要 5 秒的影音素材,就能以 AI 技術快速生成假冒他人的假影片來進行詐騙。MyGoPen 詢問刑事局和資安專家,警方表示,影片中展示的 AI 技術確實是可以達到的,但目前詐騙集團主要是將深偽用在假冒名人上,台灣尚無此類
https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjitfFPU14PFvTsvEBgGyLfjJ6tOZqijiD5gKkG0I614B5as_chnsB3x3Jl4blXeMK32B9-DW92BXkyxArkIiYUew4AOTkbw0-2or8g1n0XXNgmqgxBQM2Gx9JCdcm7fgLKwXKjh4Avw2mDmUKC1EuIm8URtvoIyV2Jwo7Bqhk6mOEgXvCi0_OXwL90r-c/s1600/ai.jpg
https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjitfFPU14PFvTsvEBgGyLfjJ6tOZqijiD5gKkG0I614B5as_chnsB3x3Jl4blXeMK32B9-DW92BXkyxArkIiYUew4AOTkbw0-2or8g1n0XXNgmqgxBQM2Gx9JCdcm7fgLKwXKjh4Avw2mDmUKC1EuIm8URtvoIyV2Jwo7Bqhk6mOEgXvCi0_OXwL90r-c/s72-c/ai.jpg
MyGoPen
https://www.mygopen.com/2024/11/ai-fraud.html
https://www.mygopen.com/
https://www.mygopen.com/
https://www.mygopen.com/2024/11/ai-fraud.html
true
4272037284105697328
UTF-8
Loaded All Posts Not found any posts 更多 更多內容 Reply Cancel reply Delete By Home PAGES POSTS View All 推薦相關資訊 分類 ARCHIVE ALL POSTS Not found any post match with your request 回首頁 Sunday Monday Tuesday Wednesday Thursday Friday Saturday Sun Mon Tue Wed Thu Fri Sat January February March April May June July August September October November December Jan Feb Mar Apr May Jun Jul Aug Sep Oct Nov Dec just now 1 minute ago $$1$$ minutes ago 1 hour ago $$1$$ hours ago Yesterday $$1$$ days ago $$1$$ weeks ago more than 5 weeks ago Followers Follow THIS PREMIUM CONTENT IS LOCKED STEP 1: Share to a social network STEP 2: Click the link on your social network Copy All Code Select All Code All codes were copied to your clipboard Can not copy the codes / texts, please press [CTRL]+[C] (or CMD+C with Mac) to copy