Не верујте никоме: Шта прети неуралној мрежи, прављењу порнографије
Дмитри Куркин
Факе порн видеосу којој је звезда филма "Вондер Воман" Гал Гадот наводно сексала са својим полубратом, који се појавио на Вебу ове недеље, испоставило се да није само лажна, већ лажна генерисана умјетном интелигенцијом.
Аутор видеа, анонимни корисник реддита са надимком деепфакес, у интервјуу са Вице, потврдио је да је користио неуронску мрежу како би “фотографисао” Гадотово лице телу порно глумице. Лажни, генерално, приметан је, а дубокофаке нису планирале да направе било какав новац на њему - рекао је, само је желео да провери како ће бити лако да се користи АИ. И он има лоше вијести за нас: било је врло лако направити лажну порнографију код куће.
Проблем уопште није у самим порнографима: потражња за сликама и видео снимцима, где глумци и глумице као што су познате личности и секси, јесу, јесте и биће са фетишистима и сензационалним љубавницима. Када је реч о спољној сличности са звездама у порно индустрији, стварају се читаве каријере - овај феномен је чак довео до изванредног наслова жуте штампе: "Патуљак-порнографски патуљак Гордон Рамсаи открио је мртву у јазбинској рупи".
Али ако је пре производње било потребно време, ресурси и нека врста вештине, онда је неуронска мрежа, обучена за заваривање лица према слици, знатно поједностављује задатак. Роботи се задржавају, а не мушкарац, а роботи с времена на вријеме постају паметнији, што значи да ће факе изгледати све поузданије. Корисник деепфакес је појаснио да је сакупио свој АИ софтвер из елемената биљешке који се налазе у библиотекама отвореног кода, и снимио фотографије и видео записе у јавне канале и хостинг као што је ИоуТубе. Једноставно речено, сви алати за генерисање порнофеикових леже испод његовог носа, не само код њега, већ и код милиона људи широм света.
И ово, строго говорећи, чак ни новости. Још 2003. године, стручњаци са Универзитета Орегон Хеалтх анд Сциенце упозорили су да су аудио преваре "лако направити и тешко их је одредити". До 2017. прогнозе су се оствариле, а било је и лажних гласовних снимака које су генерисале неуронске мреже које је веома тешко разликовати од стварних. Пратећи звук, видео је повучен. Развој особља Универзитета у Вашингтону синхронизује изразе лица лица лица са његовим говором: у видео клипу са Бараком Обамом, на пример, само аудио је присутан, слика је генерисана програмом. Повежите се једно са другим - и сада постоје готови лажни видеи у којима, рецимо, познати либерални политичар "признаје" своје симпатије према Хитлеру.
Потребно је мало маште да замислите како злоупотребе такве вештачке интелигенције могу да доведу до - цхатови Мицрософт-а, које су Твиттерови тролови претворили у расистичке за мање од једног дана, изгледају као прилично шала против њих. И наравно, технологији порнографије не пријети првенствено Гал Гадот, Таилор Свифт или Јеннифер Лавренце. Они су довољно осигурани да запосле војску ИТ стручњака који препознају лажне, и флоту адвоката који ће тужити свакога ко покуша да користи ове лажне личне користи.
Не, једноставни смртници ће постати жртве нових безопасних алгоритама. Дигитални фалсификати могу се користити за порнографију, цибер-стабљике, мрежно узнемиравање, уцене и манипулације од стране људи који су лако сугестибилни и не прате посебно вести из области напредних технологија ("Ваша ћерка је снимљена, пребаците новац одмах, иначе ће СВЕ видети"). А ми не говоримо нужно о порнићима: лажи се могу покренути иу Мрежу за политичку пропаганду и подстицање на мржњу.
"Али ово је монструозно!" Да, монструозно, и није кривац за шифре дубоког риба. Како хакери понекад упадају у банкарске системе да не краду новац, већ да упознају одељење за сајбер одбрану у сигурносне празнине, тако да га је измислио анонимни АИ програмер који нас ставља пред чињеницу: доба дигиталних фалсификата није антиутопијска хорор прича "Црно огледало", и долазећа стварност. Модерна етика још увијек није била схваћена (може ли се порнофиле сматрати инвазијом на приватност других људи?), Као ни законом који је на снази. Али у њој ми некако морамо да живимо у наредним годинама. Дакле, неопходно је развити антидот против таквог надева.
Цоллинс речник кустоси назвао је термин "лажне вести" изразом 2017., наглашавајући да је просечан корисник зависник од кликбирања и репоступних сензационалних наслова без губитка времена за проверу аутентичности информација. У међувремену, лажне вести могу утицати на резултате избора и референдума. И то је такође део нове реалности у којој већ постојамо иу којој ћемо морати да научимо како да будемо мање неозбиљни.
Друштвене мреже су већ учиниле интернет кућом од стаклених зидова у којој милијуни људи могу гледати ваш живот сваки дан - чак и када то не желите. Сада је очигледно да у овој кући нема ни врата: свако може покушати да нападне ваш лични простор, користећи АИ да вам зајебе лице на порнороллу или филму "Господар прстенова". Приватност је мртва, али не само Биг Бротхер је крив за то у облику специјалних служби и глобалних корпорација, већ и нас самих.
Долази свет дигиталних фалсификата, али то није разлог за панику, параноју, одбијање да се користи Интернет или захтјеви за забрану неуронских мрежа. То је разлог за размишљање о мрежној хигијени и новој етици, што ће једном и заувијек поправити да је употреба туђе слике за креирање дигиталне лажне и незаконита. Време када су људи безусловно веровали свему што кажу на ТВ-у (чак и ако кажу да је "Лењин био гљива") бледи. Исто тако, постепено се привикавамо да не вјерујемо у све што је написано на Интернету.
Цовер:Варп рецордс