Deepfake: nem hihetünk a szemünknek és a fülünknek?

Hackerek 25,6 millió dollárt csaltak ki egy nemzetközi cég hongkongi irodájából úgy, hogy mesterséges intelligencia segítségével deepfake klónt készítettek a cég pénzügyi vezetőjéről és más vezetőkről, akiket ezután videóhíváson keresztül élőben használtak fel egy alkalmazott megtévesztésére. A támadás a maga nemében egyedülálló, az első példa a deepfake technika ilyen mennyiségű és minőségű felhasználása terén. Mindez év elején történt. A digitális klónozás egyre több gondot okoz. A legutóbbi nagy port felverő eset az volt, amikor a popsztár Taylor Swiftről készült pornográf deepfake-ek árasztották el a közösségi médiát, és az egykori Twitter például teljesen letiltotta a Taylor Swifttel kapcsolatos kereséseket. De az is megesett, hogy Kínában egy férfitól több mint félmillió dollár váltságdíjat csaltak ki elrabolt barátjáért egy hamis videóval. Mi is az a deepfake, amit a google fordító mélyhamisításnak fordít? Beszélgetőpartnerek: - Csizmazia-Darab István, Rambo, a Sicontact Kft. kiberbiztonsági szakértője - Béres Péter, a Sicontact Kft. IT-vezetője 02:50 2023-ban az év szava volt a mesterséges intelligencia. (►https://www.merriam-webster.com/wordplay/word-of-the-year) (►https://en.wikipedia.org/wiki/Deepfake) 04:20 Az elsők nagyon kezdetlegesek voltak, technikailag még föl is lehetett fedezni, a száj meg az eredeti arc között lehetett látni egy határvonalat, ha kinagyította az ember a felvételeket. (►https://ars.electronica.art/center/en/obama-deep-fake/) 12:20 A bullying még egy újabb lendületet kap a deepfake csalásoknak köszönhetően. (►https://theconversation.com/cyberbullying-girls-with-pornographic-deepfakes-is-a-form-of-misogyny-217182) 13:04 Van próbálkozás olyan eszköz készítésére, ami felismeri az AI által generált tartalmat, ha feltöltjük az alkalmazásba, akkor képes kiszűrni. (►https://www.aiornot.com/) 15:30 Taylor Swift bevonulása egy színpadra ilyen eset volt: rámontíroztak egy Trumpot éltető piros zászlót, és utána magyarázkodhatott. (►https://www.forbes.com/sites/mattnovak/2024/02/05/viral-video-of-taylor-swift-endorsing-donald-trump-is-completely-fake/) 16:57 A szlovák választásnál volt egy kétperces videó, ahol az egyik pártnak a vezetőjét próbálták lejáratni. (►https://www.wired.com/story/slovakias-election-deepfakes-show-ai-is-a-danger-to-democracy/) 19:18 Már 2019-ben előfordult a Deep Voice segítségével átverés. Abban magyar szál is volt: egy multinacionális cég német igazgatója nevében felhívták az angol igazgatót, hogy egy magyar beszállító partnernek azonnal utaljon el 220 ezer eurót. (►https://www.forbes.com/sites/jessedamiani/2019/09/03/a-voice-deepfake-was-used-to-scam-a-ceo-out-of-243000/) 23:18 Jövőre már tarthatunk ott, hogy megcsörren a telefon és a gyerekünk hangját halljuk, holott nem is ő hív? (►https://www.theguardian.com/us-news/2023/jun/14/ai-kidnapping-scam-senate-hearing-jennifer-destefano) 27:13 Mindenkinek ismerkedni kéne az MI-vel valamilyen szinten. (►https://www.youtube.com/watch?v=t4QKuLqA08g) 29:45 Van már AI-generált influencer, mert egy marketingügynökségnek elege lett, hogy fizetni kell az influencereknek. Szerelmes leveleket is kap, 0-24-ben ruhákat mutat be és termékeket, reklámot. (►https://www.euronews.com/next/2024/03/22/meet-the-first-spanish-ai-model-earning-up-to-10000-per-month) 30:20 Van egy londoni modell, aki elkészítette a saját AI ikerpárját. (►https://www.bbc.com/news/business-68347250) 34:37 Legyünk tisztában a lehetséges kockázatokkal, de azzal is, hogy miben segíthet nekünk ez a technológia, mert ez igazából egy nagyon jó eszköz. (►https://index.hu/tudomany/2024/02/16/mesterseges-intelligencia-szakma-veszely-jovo-gepi-tanulas-europai-urugynokseg/) (►https://zzzcode.ai/code-generator)