Извртените халуцинации навистина се случуваат во светот на вештачката интелигенција – само што ботовите не халуцинираат. Жртвите на пореметените халуцинации се извршните директори на технолошките компании, заедно со фалангите на нивните обожаватели, и индивидуално и колективно.
Пишува: Наоми КЛАЈН
На маргините на дискусијата што се разгорува околу ненадејниот развој на т.н вештачка интелигенција, избувна релативно опскурна полемика околу зборот „халуцинира“.
Тој термин го користат архитекти и приврзаници на генеративната вештачка интелигенција (ВИ) за да опишат целосно измислени или погрешни одговори од чет-ботови. На пример, кога ќе побарате од ботот да дефинира нешто што не постои, а тој, сосема убедливо, веднаш одговара на сè со измислени фусноти. „Никој на терен сè уште не го решил проблемот со халуцинации“, изјави неодамна Сундар Пачаи, извршен директор на Google и Alphabet.
Тоа е точно – но зошто грешките се нарекуваат халуцинации? Зошто не алгоритамско ѓубре? Или дефект? Халуцинацијата се однесува на мистериозната способност на човечкиот мозок да ги согледа појавите што ги нема, барем не во конвенционална, материјална смисла. Присвојувајќи зборови од областа на психологијата, психоделијата и разните видови мистицизам, поддржувачите на вештачката интелигенција, притоа признавајќи ги грешките што ги прават нивните машини, во исто време го поттикнуваат најважниот секторски мит: дека градат големи јазични модели, ги обучуваат на сè што луѓето некогаш напишале, зборувале и визуализирале, стигнале до прагот да предизвикаат еволутивен скок на нашиот вид. Како инаку ботови како Бинг и Бард би можеле да трипуваат?
Сепак, извртените халуцинации навистина се случуваат во светот на вештачката интелигенција – само што ботовите не халуцинираат. Жртвите на пореметените халуцинации се извршните директори на технолошките компании, заедно со фалангите на нивните обожаватели, и индивидуално и колективно. Ги разбирам халуцинациите овде не во мистична или психоделична смисла, туку како состојби на изменета свест што навистина може да обезбеди пристап до длабоки, претходно несогледани вистини. Не. Овие луѓе само трипуваат: гледаат, или барем тврдат дека гледаат докази што воопшто ги нема, дури измислуваат цели светови во кои нивните производи ќе придонесат за нашето општо издигнување и образование.
Сепак, извртените халуцинации навистина се случуваат во светот на вештачката интелигенција – само што ботовите не халуцинираат. Жртвите на пореметените халуцинации се извршните директори на технолошките компании, заедно со фалангите на нивните обожаватели, и индивидуално и колективно.
Ни кажуваат дека генеративната вештачка интелигенција ќе стави крај на сиромаштијата. Ќе ги излечи сите болести. Ќе го реши проблемот со климатските промени. Ќе внесе повеќе значење и возбуда во нашите работни места. ВИ ќе ги ослободи нашите животи за одмор и размислување, и ќе ни помогне да ја вратиме човечноста што ја изгубивме во механизмот на доцниот капитализам. Ќе и стави крај на осаменоста. Ќе ги направи нашите влади рационални и одговорни. Се плашам дека ова се вистински халуцинации со вештачка интелигенција, а постојано ги слушаме откако Chat GPT беше лансиран кон крајот на минатата година.
Постои свет во кој генеративната вештачка интелигенција, како моќна алатка за предвидување и извршител на монотони задачи, навистина може да се искористи за доброто на човештвото, другите видови и нашиот заеднички дом. Но, за да се случи ова, неопходно е да се распоредат овие технологии во значително различен економски и социјален поредок од нашиот, кој би имал цел да ги задоволи човечките потреби и да ги заштити планетарните системи на живот.
Ние што не трипуваме добро знаеме дека нашиот актуелен поредок не е ниту налик на тоа. Напротив, тој е изграден да го максимизира извлекувањето на богатството и профитот – и од луѓето и од природниот свет – што е реалноста што нè доведе до техно-некро фазата на капитализмот. Во таква реалност на хиперконцентрирана моќ и богатство, не само што вештачката интелигенција е далеку од тие утописки халуцинации, туку е многу поверојатно да стане застрашувачка алатка за понатамошен грабеж и пустошење.
За почеток, корисно е да се размислува за целта на која и служат утописките халуцинации за вештачката интелигенција. Каква корист има во културата од овие приказни за добронамерност додека се запознаваме со тие чудни нови алатки? Еве една хипотеза: моќните и заводливи приказни го прикриваат она што може да се покаже како најголемата и најзначајната кражба во историјата на човештвото. Сведоци сме дека најбогатите компании во историјата (Мајкрософт, Епл, Гугл, Мета, Амазон итн.) еднострано го преземаат збирот на човечкото знаење што постои во дигитална форма и го вградуваат во комерцијални производи со заштитена сопственост, со кои многу директно ќе бидат таргетирани животите на луѓето без дозвола или согласност.
Сведоци сме дека најбогатите компании во историјата (Мајкрософт, Епл, Гугл, Мета, Амазон итн.) еднострано го преземаат збирот на човечкото знаење што постои во дигитална форма и го вградуваат во комерцијални производи со заштитена сопственост, со кои многу директно ќе бидат таргетирани животите на луѓето без дозвола или согласност.
Тоа не треба да биде легално. Во случај на материјал заштитен со авторски права за кој сега знаеме дека се користел за обука на модели со вештачка интелигенција (вклучувајќи ја и содржината на медиумите за кои го пишувам ова), беа поднесени различни тужби врз основа на тврдењето дека е очигледно незаконски. Зошто, на пример, би ѝ било дозволено на една профитна компанија да внесува слики, цртежи и фотографии на живи уметници во програми како што се Stable Diffusion или Dall-E 2 – а потоа да ги користи за да генерира дупликат верзии на делото на уметникот, од што корист имаат сите освен самите уметници?
Заедно со нејзините колеги, сликарката и илустраторка Моли Крабапл го предводеше движењето на уметници кои се борат против оваа кражба: „Генераторите на уметност со вештачка интелигенција се обучени на огромни збирки на податоци, кои содржат милиони слики заштитени со авторски права, собрани без знаење на авторите, а камоли компензација или согласност. Тоа е практично најголемиот грабеж на уметност во историјата. Кражбата ја вршат реномирани корпоративни субјекти, со поддршка на ризичен капитал од Силиконската долина. Тоа е нескриен грабеж“, се наведува во нивното отворено писмо.
Трикот, се разбира, е во тоа што Силиконската долина рутински ја нарекува кражбата како „прекршување“ – и премногу често се извлекува со тој изговор. Ние го знаеме тој трик: тие започнуваат напад на територија што сè уште не е регулирана со закон; изјавуваат дека старите правила не важат за нивната нова технологија; тие лелекаат дека таа регулатива само би ѝ помогнала на Кина – додека непречено го прават она што ќе го наумат. Кога сите ќе се навикнат на новите играчки и ќе почнат да се справуваат со нивните социјални, политички и економски последици, технологијата е веќе толку присутна што судовите и политичарите треба само да ги кренат рацете.
Тоа го видовме со скенирањето на книги и уметнички дела на Google. Со колонизацијата на вселената на Маск. Со десантот на Uber во такси индустријата. Со навлегувањето на Airbnb на пазарот за изнајмување. Во промискуитетното однесување на Фејсбук со нашите податоци. Не барајте согласност, обично велат нарушувачите, побарајте прошка. (И подмачкајте ги молбите со дарежливи придонеси за кампањата.)
Во книгата „Ерата на надзорниот капитализам“ (The Age of Surveillance Capitalism), Шошана Зубоф детално објаснува како мапите на Google Street View ги прекршиле воспоставените норми за приватност кога нивните автомобили со камери ги снимале нашите јавни патишта и надворешноста на нашите домови. До моментот кога беа поднесени првите тужби за приватност, апликацијата Street View веќе беше толку присутна на нашите уреди (и толку кул, толку удобна) што малку судови надвор од Германија беа подготвени да интервенираат.
Истото што се случи со надворешноста на нашите домови сега се случува и со нашите зборови, нашите слики, нашите песни, целиот наш дигитален живот. Сето ова во моментов се презема и се користи во машини за обука за симулирање на размислување и креативност. Тие фирми сигурно знаат дека учествуваат во кражби или барем дека тоа може да се докаже. Тие само се надеваат дека старата стратегија повторно ќе профункционира – дека размерите на грабежот се веќе толку големи и дека се случува со таква брзина, дека судовите и политичарите и овојпат ќе кренат рака затоа што сето тоа е наводно неизбежно.
Затоа им се толку важни халуцинациите за сите прекрасни работи што вештачката интелигенција ќе ги направи за човештвото. Тие арогантни тврдења лажно ја прикажуваат масовната кражба како подарок, а во исто време ги рационализираат непобитните ризици од вештачката интелигенција.
Затоа им се толку важни халуцинациите за сите прекрасни работи што вештачката интелигенција ќе ги направи за човештвото. Тие арогантни тврдења лажно ја прикажуваат масовната кражба како подарок, а во исто време ги рационализираат непобитните ризици од вештачката интелигенција.
Многумина од нас веќе слушнале за анкетата во која истражувачите и развивачите на ВИ беа замолени да ја проценат веројатноста дека напредните системи за вештачка интелигенција ќе предизвикаат „човечко истребување или слично трајно и сериозно слабеење на човечкиот вид“. Застрашувачки, средниот одговор беше дека има 10% шанси тоа да се случи.
Како да се рационализира работата за градење и промовирање алатки кои носат такви егзистенцијални ризици? За овие системи често се вели дека имаат огромни потенцијални страни – освен што тие предности се главно халуцинации. Ајде да погледнеме некои од најлудите.
(продолжува)
Во утрешното продолжение за халуцинациите во кои ВИ ќе ги среди климатските промени; ќе овозможи мудро управување; техолошките гиганти нема да го уништат светот; ВИ ќе не ослободи од монотоното р’мбање.
Наоми КЛАЈН (Naomi KLEIN) е активистка и режисерка позната по нејзините политички анализи, поддршка на екофеминизмот, организирана работа, левичарска политика и критика на корпоративната глобализација, фашизмот, екофашизмот и капитализмот.
Извор: The Guardian/Пешчаник/рацин.мк