Куси лекции од авторот Валентин Нешовски извлечени од дијалозите со уредникот Џабир Дерала на тема: Вештачката интелигенција и технолошкиот развој – ќе нѐ убие или ќе нѐ спаси во која провејува дилемата за тоа дали вештачката интелигенција ќе го спаси или ќе го уништи човештвото?
НОВА објавува хронологишки серијал од поенти од тематскиот дијалог на авторите на интервјуто! Линк
ВИ – Најопасните сценарија – војна или мир со вештачката интелигенција:
1. Објавувањето на Сора од со текст до видео, генераторот на ОПЕН АИ ја возбуди ВИ заедницата како никогаш досега. Сите егзалтирани што Сора произведува конзистентно реално видео од околу една минута ккао она „направи ми видео од два лабрадори како влечат жена“, малкумина сфатија дека тоа е речиси ГВИречиси еднакво на човечката интелигенција.
Сора има модел за светот, анализира, размислува, предвидува што ќе се случи, планира, реализира. Токму затоа во ова продолжение разговараме за најопасните сценарија што може да се случат. Прашањето за војна илимир со ВИ.
По сите илјадници години кога контролата на тоа што го создава е во неговиот ум раце, човекот дојде до пресвртната точка и е на прагот на нова ера кога е во состојба да создаде битие или еве ентитет кој е подобар од него – машина која самостојно размислува и донесува автономни одлуки. Тоа сѐ уште не се случило, но е на добар пат да се случи.
2. ВИ – Помалку совршено од неа, а подобра од нас:
Но што е тоа во споредба со еволуцијата на „мудриот човек“ како што гласи преводот од латинскиот израз што ни го даде таткото на модерната класификација во биологијата Каролус Линаус во 1758 година. Ние сме Хомо Сапиенс, неспоредливо супериорниот облик на живот на планетата и во познатиот дел од вселената. Но еве, со ВИ сме на добар пат како човечки род да се спуштиме на второто место, а како тргнало може дури и на трето доколку нашата креација реши да создаде нешто што е помалку совршено од неа, а секако подобро од нас.
Страшна е дефиницијата „помалку совршено од неа, а подобра од нас“. Впрочем, во лабораториите на ОПЕН АИ, тоа веќе постои. Многу сериозни луѓе и аналитичари, кои немаат пристап до оваа компанија со седиште во Сан Франциско, се исплашија од Сора која е објаавена, обелоденета овој месец. Некои се радуваа, некои, како Илон Маск велат дека тоа не било ништо, дека тоа неговите компании го постигнале уште пред две годин, а некои веќе се длабоко уплашени дека е достигната не вештачка интелигенција – ВИ, туку генерална вештачка интелигенција – ГВИ што е чекор до супер вештачка интелиогенција – СВИ. Сора всушност може да разбере задача, да ја анализира, да испланира, да предвиди и да реализира. Сето прикажано во едноминутно реално видео ккао некој даго снимал со камера.
Всушност, најважното кај Сора е што таа веќе има „Модел на светот“- знае како изгледа нашиот свет и сѐ за нас и тоа сега е и во форма и тоа да гонаправи го има научено сама онака како што учат децата. Односно, знае дека има иднина, да разликува пат кој претстои пред нас, асфалтен или земјен,, дека има сенки од сонцето, дека јапонските цреши цветаат, дека луѓето може да шетаат, да врне и да вее. Дека луѓето водат војни и дека може да се испотепаат меѓу себе. Тоа е и добро но и страшното, во зависностод тоа кој ја учи и што ја учи. Па сепак, проблемот е во тоа што таа сама учи, self-learning training и тоа дури и на синтетички податоци кои таа самата ги создава зашто нашите податоци веќе ги искористи, ги потроши.
3.ВИ – Трката во вооружување врз база на вештачката интелигенција е во полн ек:
Нештата се развиваат со вртоглава брзина. Ако пред само една година, авторите на „Тајм“ напишаа „Start worrying“ или почнете да се грижите, за една година светот на ВИ успеа да ги надмине прогнозите и на најхрабрите проектанти на иднината.
Трката во вооружување со Вештачката интелигенција е во полн ек. И колку помалку добиваме конкретни податоци за тоа што се случува зад безбедносните протоколи на воените истражувачки центри, толку пострашна ќе биде реалноста кога новите „играчки“ на генералите во армиите на супер силите во светот ќе се појават над нашите глави или пак, во преносна смисла на зборот, буквално ќе тропнат и на нашите врати.
Замислете роеви од дронови и нано роботи кои денот можат да го претворат во ноќ, а ноќта во заслепувачки светол ден. Но тие не се управувани од пилоти во оддалечените подземни бункери. Нив ги раководи Вештачката интелигенција. Тие имаат пристап до непрегледни бази на податоци и можат да ги препознаат нашите лица од огромна далечина и да одлучуваат за нашата судбина, за нашиот живот или нашата смрт во дел од секунда.
Високо на небото ќе патролираат авиони кои ќе се судираат во жестоки воздушни дуели какви што нема ни во најдинамичните видео игри денес. Пилотите во тие авиони нема да бидат луѓе, туку различни генерации на вештачка интелигенција креирани во антагонизирани воени лаборатории. Нема човечко суштество кое ги поседува тие перформанси на пилот како што тоа го има ВИ. Човекот не ќе може ни физички да ги издржи сите тие неверојатни движења и маневри на авионот.
На копното веќе се наѕираат тенкови без војници. Тиеќе се судираат во брутални тенковски битки какви што не можеме ни да замислиме. Последиците што ќе ги остават зад себе ќе ги надминат и најужасните сцени на разурнати градови што ги гледаме овие години како Алепо, Мариупољ, Бахмут, Газа… Или на времето Хирошима.
Оклопните транспортери ќе превезуваат непобедливи хуманоидни роботи кои ќе окупираат држави и ќе ги заземаат стратешките точки непогрешливо, подобро и од најискусниот човечки генерал.
4.ВИ – Научната фантастика стануваат реалност до степен на окупација:
На улиците ќе патролираат полициски возила без возачи. Ако треба да бидеме уапсени, милозвучен глас од возилото ќе ни го соопшти тоа и љубезно ќе нѐ замоли да се самоуапсиме. Ако ја игнорираме „љубезната покана“, ВИ ќе ги искористи најблиските и најефективни средства, роботи, да нѐ втурнат во возилото кое веќе ги отворило своите врати. Во возилото, ВИ ќе ни даде правни поуки, додека со полна брзина се упатува кон ВИ судот каде што ќе добиеме повеќе детали за обвинението од ВИ тужителот, а ВИ судијата ќе ни додели ВИ адвокат да нѐ брани.
Пооптимистичкото гледање е дека човечката раса е прилично жилава творба. Утешителните објаснувања потсетуваат дека нашата еволуција го покажува тоа. Приматите се појавиле во доцниот миоцен пред околу шест милиони години, со палци за фаќање, на пример, натаму племињата, чопори со алатки, оружје. Значи, оптимистите велат дека човештвото преживеало сешто, вклучувајќи го и леденото доба како и многу други прагови на постоењето или непостоењето. Поткрепувајќи ја својата теза тие потсетуваат дека во минатиот век, на пример, човештвото имаше точно таква технологија како ракетното гориво колку само колку што е потребно да се победи гравитацијата. Да беше Земјата само малку поголема, односно со само малку повеќе гравитација, ние никогаш, ама никогаш, немаше да се одлепиме од почвата и немаше да сонуваме за Марс или за мултипланетарна цивилизација. Тоа се праговите кои човештвото ги има поминато.
5. ВИ – И изборните процеси ќе бидат управувани од вештачката интелигенција:
ВИ веќе сега може да креира вести и анализи, но и дезинформации и пропагандни наративи кои далеку ги надминуваат вештините на просечните новинари или дезинформатори, а во зависност одтоа од или на која страна се наоѓа. Веќе сега имаме случаи кога во кампањите е вклучена ВИ која креира и дистрибуира deep fake продукти кои некогаш изгледаат поуверливо од реалноста. Ако, на пример, зборуваме за слободни избори, може да се предвиди дека наскоро тоа ќе биде невозможно да се замисли без силна одбрана. Се разбира дека таа одбрана ќе е можна пак само со вештачката интелигенција. 
6. Цела држава може да се кутне на колена без ниту еден испукан куршум:
Но да се вратиме пак на вселената. Комуникациските сателити нема да ги преземе некој супер талентиран хакер во служба на армијата на една или друга супер сила. Во блиска иднина, ако не веќе и сегашност, тоа ќе биде овозможено со ВИ. Таа ќе ги презема комуникациските сателити и ќе емитува такви информации и пораки, какви што ќе ѝ бидат потребни за победа на нејзината страна во конфликтот. Или, едноставно, ќе ги онеспособи сателитите, што ќе предизвика тотално слепило и хаос во земјата што е цел на агресијата.
Цела држава може да се кутне на колена и во неа да завладее целосен терор, без ниту еден испукан куршум, па дури и без да се окупира ниту една педа од територијата. Се наоѓаме на самиот праг на таа нова ера на водење војна каде што оружјето е супер интелигентно и скаде што тоа самото носи одлуки на лице место. Без или со минимално учество на човекот.
Колку и да изгледаат неверојатни или спорни, сите овие проекции на новата ера на војувањето, мора да се констатира дека војувањето, безбедноста и демократијата денес се сосема различни од тоа што беа до пред само пет години.
7. Се` поостра конкуренција на големите сили во трката за новите оружја:
В. Хартунг, експерт за воена индустрија и воени буџети, доаѓа до констатција дека САД се во опасност да заостанат зад Кина во развојот и распоредувањето на системи од следната генерација како што се беспилотни возила контролирани од вештачка интелигенција.
За да одговори на предизвикот од Кина, која изгледа како да е во незапирлив подем во вооружувањето со ВИ, и Австралија, близок сојузник на САД и НАТО членка, почна да произведува напредна технологија за подморници со употреба на ВИ. Паралелно со скапите нуклеарни подморници, Австралија ги разви и т.н. Ghost Shark или ајкула дух подморници кои се без човечки персонал и кои ги управува вештачка интелигенција. Три од овие подморници вооружени со ВИ ќе бидат ставени во функција веќе во средината на наредната година.
Ова покажува дека, всушност, вооружувањето со ВИ и не мора да биде скапо. Скапо е истражувањето, но потоа производството е далеку поевтино отколку она за кое е потребен човечки персонал. Но токму тоа и според ММФ, може да биде уште една причина повеќе за загриженост.