Steak-umm Rolls objavlja tržno kampanjo z uporabo Deepfake Vegans

V nedavnem videu Zrezek-mmm , živilsko podjetje s sedežem v West Chestru, je sprožilo pogovor o zlovešči strani umetne inteligence in vse večji grožnji tehnologije deepfake. Ta video, ki prikazuje fokusno skupino samooklicanih vegani navduševanja nad užitki uživanja mesa, ni to, kar se zdi na prvi pogled. To je pametna oglaševalska kampanja, ki spodbuja razmišljanje in je namenjena osvetlitvi morebitnih nevarnosti manipulacije z umetno inteligenco in tehnologije deepfake.

Video nam predstavi šest posameznikov, ki se identificirajo kot vegani. Strastno izražajo svojo zavezanost a rastlinski način življenja , pri čemer je eden šel celo tako daleč, da je imel tetovažo 'V za vegan'. Toda stvari se presenetljivo obrnejo, ko jim postrežejo sirove zrezke. Njihove reakcije so izjemno pozitivne, z vzkliki o manjkajočem mesu in dvomih o vrnitvi na vegansko prehrano. To je najmanj zmedeno.

Vendar pa je preobrat v zgodbi v tem, da je video deepfake. Udeleženci fokusne skupine nikoli dejansko niso uživali pravega mesa. Sirni zrezki, ki jih postregli, bili povsem na rastlinski osnovi , narejen iz tofuja, paprike in veganskega sira. Ustvarjalci videoposnetka so nato uporabili že pripravljeno programsko opremo AI, da so manipulirali z njihovimi komentarji in jim v usta polagali povsem drugačne besede.

V samo 20 minutah so bili komentarji panelistov digitalno spremenjeni, da bi nakazali, da verjamejo, da »bi bil ta svet boljši, če bi več ljudi jedlo resnično meso « ali da je »uživanje mesa najpomembnejša stvar na svetu«. Ti manipulirani komentarji so bili za vpletene posameznike osupljivi.

Producenti videa so se odločili razkriti resnico panelistom, kar je izzvalo kolektivni vzdih olajšanja. Niso zagovarjali popolne 180-stopinjske spremembe svojih prepričanj. Namesto tega so bili nehote del eksperimenta za razkrivanje zavajajoče moči deepfake tehnologija.

Odziv udeležencev fokusne skupine je bil osupljiv. En posameznik je priznal: 'Še nikoli nisem slišal za deepfake,' drugi pa je priznal: 'Mislil sem, da je to le stvar, ki mora skrbeti ljudi v javnosti.' Poskus je bil oster opomin, da je mogoče s to tehnologijo manipulirati z obrazom in glasom kogar koli, posledice pa so lahko zastrašujoče.

Video se zaključi z močnim sporočilom, ki poziva gledalce, naj Podpora the Deep Fakes Accountability Act . Pomen takšne zakonodaje je postal še bolj očiten, ko je predsednik Biden podpisal izvršni ukaz o vzpostavitvi strožjih standardov za varnost in zasebnost AI.