Deepfakes AI są tanie i łatwe i pojawią się podczas wyborów w 2024 roku

Nasze nowe odcinki w czwartek Odszyfrowanie Chodzi o głębokie zanurzenie się w ważne tematy w wiadomościach, a w tym tygodniu kontynuujemy naszą miniserię dotyczącą jednego z najważniejszych tematów ze wszystkich: generatywnej sztucznej inteligencji.

W zeszłym tygodniu przyjrzeliśmy się fali procesów sądowych dotyczących praw autorskich, które mogą ostatecznie zatrzymać całą branżę. Zasadniczo jest to proces rzucania monetą – a wyniki są daleko idące, ponieważ sprawy te trafiają do systemu prawnego. Większym problemem jest teraz to, że systemy sztucznej inteligencji są naprawdę dobre w tworzeniu obrazów i klipów audio na tyle fałszywych, że są wiarygodne – a także dzięki takim narzędziom, jak nowy Sora OpenAI, a wkrótce być może także wideo.

Oczywiście w Stanach Zjednoczonych po raz kolejny mamy rok wyborów prezydenckich. Więc dzisiaj, krawędź Redaktor polityczny Adi Robertson dołącza do programu, aby omówić, w jaki sposób sztuczna inteligencja może zwiększyć dezinformację i kłamstwa w wyborach, które i tak są tak samo kontrowersyjne, jak inne za naszego życia – i co można z tym zrobić.

Rozmowy na temat manipulacji mediami na platformach mediów społecznościowych pojawiają się i znikają podczas każdego cyklu wyborczego. Wybory w 2016 r. naznaczone były rosyjskimi kampaniami dezinformacyjnymi na Facebooku; W ramach kampanii 2020 opublikowano na Twitterze relację z laptopa Huntera Bidena, a następnie główne platformy ostatecznie zakazały Donaldowi Trumpowi po atakach z 6 stycznia.

Te wybuchy zainteresowania osłabły, a ich objawy były niewielkie lub żadne – a w przypadku Twittera oznaczało to całkowite wycofanie się z jakiejkolwiek moderacji. Elon Musk przekształcił platformę w coś, co jest obecnie znane jako X. A X to miejsce, w którym szeroko rozpowszechniano fałszywe zdjęcia porno Taylor Swift – podgląd problemów, przed którymi stoją wszystkie główne platformy.

Wydaje się, że rozmowa dezinformacyjna w 2024 r. może mieć więcej niuansów niż kiedyś. Jednak jak w przypadku każdej drażliwej kwestii dotyczącej wystąpień w Internecie, istnieje kwestia Pierwszej Poprawki, z którą należy się uporać. Trwają również dyskusje na temat polityki i moderacji platformy na temat najlepszego sposobu zwalczania tworzenia i rozpowszechniania nielegalnej pornografii oraz tego, gdzie leży granica między chronionymi komentarzami a złośliwą dezinformacją.

Nic z tego nie będzie łatwe. Jednak problemy te nie znikną i należy ocenić, w jaki sposób firmy zajmujące się sztuczną inteligencją, platformy mediów społecznościowych i decydenci próbują je rozwiązać oraz o czym my, jako jednostki, powinniśmy pamiętać, gdy cykl wyborczy rozpoczyna się pełną parą.