Куси лекции од авторот Валентин Нешовски извлечени од дијалозите со уредникот Џабир Дерала на тема: Вештачката интелигенција и технолошкиот развој – ќе нѐ убие или ќе нѐ спаси во која провејува дилемата за тоа дали вештачката интелигенција ќе го спаси или ќе го уништи човештвото?
НОВА објавува хронологишки серијал од поенти од тематскиот дијалог на авторите на интервјуто! (Линк)
1.ВИ – Прашање е дали веќе не предоцна за темата човековите права и слободи:
Иако развојот на дигиталните и комуникациските технологии има голем потенцијал за подобрување на состојбата на човековите права, токму технологијата често овозможува газење на човековите права. Човек не мора да биде Магелан за да го открие тоа. Некој можеби цинично ќе забележи дека луѓето сами ја уништија својата приватност со социјалните мрежи, дека своите животи ги претвораат во ријалити шоу.
Во името на безбедноста, приватноста на луѓето замина во заборавот. Податоците, и оние најинтимните, за секој човек на оваа планета кој било кога бил во допир со комуникациските технологии, а уште повеќе – на интернет, се архивирани и сортирани во гигантски банки на податоци кои постојано се обработуваат според најразлични параметри. А оние што мислат дека, ако не се онлајн и не користат телефони и компјутери, не се внесени во некоја база на податоци, се лажат. Сателитите во вселената и дроновите на небото го бележат секое движење, секој субјект на планетата.
Но не смееме да бидеме катастрофичари. Треба подготвени да ги дочекаме промените, мора да имаме институции, Влада која ќе биде модерна и барем ќе ги следи случувањата. Еве да прашам, што ќе направи една конзервативна влада (ориентирана кон минатото и митовите) ако наскоро некоја фабрика од индустриските зони донесе роботи и отпушти 5.000 или 10.000 луѓе. Маск најави дека неговиот робот Оптимус ќе чини околу 20.000 долари, а заштедата за компаниите по работник заменет со робот ќе биде околу 250.000 долари. Значи да појаснам – тоа значи трка по роботи, зголемена продуктивност и профит и поевтинување на производите.
Што ќе направи ако пропаднат сите фабрики во Македонија затоа што нашиот пазар може да биде преплавен со евтини производи направени од евтини нови и еколошки материјали, што ќе направи ако нашите иселеници, млади и образовани луѓе кои во еден налет на Brain Drain ја напуштија државава да работат како ИТ програмери, ако ги изгубат работите на запад и се вратат во државава. Шефот на Нвидиа веќе даде препорака – „Родители не ги пуштајте децата да учат програмирање“. Што ќе работат тие овде, ако се вратат од странство? Што ако една наша фармацевтска куќа со 5 илјади луѓе пропадне поради евтини и ефикасни лекови, што може да се случи само за неколку години. Или ако банките воведат автоматизирани шалтерски работници, што веќе се случува. Можна е социјална експлозија од невидени размери. На овие прашања треба партиите да дадат одговори. Дали нашето општество ќе се модернизира или ќе глуми еден перформативен коњски кас, а всушност ќе тапка зад модерниот свет.
2.ВИ – Вештачката интелигенција е нов, семоќен ентитет кој уште како бебе го промени светот:
Веќе отсега, а сè повеќе и сè подлабоко во годините пред нас, следењето, архивирањето, класификацијата и анализите на сите податоци ги презема и ќе ги презема вештачката интелигенција. Таа станува сè повеќе свесна и човеколика, да не речам боголика.
Приватност во 21.век? Виц или само убав спомен? Кога Џорџ Орвел би го посетил ова време, би бил очаен. Тој веројатно би рекол дека ја напишал својата „1984“ како предупредување, а не како прирачник за уредување на општеството.
Веќе сега, а сè повеќе и сè подлабоко во годините пред нас – следењето, архивирањето, класификацијата и анализите на сите податоци (ќе) ги преземе вештачката интелигенција. Која станува сè повеќе свесна и човеколика, да не речам боголика.
Деновиве Елон Маск во тужбата која ја поднесе до Опен АИ и шефот на оваа компанија Сем Алтман, тврди дека тие веќе поседуваат Генерална вештачка Интелигенција (ГВИ). Дека е достигната сингуларност. Односно дека ВИ ги има сите карактеристики на човечката интелигенција, т.е. е мултимодална – интелигентна за СЀ а не само за НЕШТО. За да појаснам дел од ВИ досега беа специјализирани за одредена намена, на пример Deep Blue програмот од пред 28 години беше наменет да биде подобар од било кој човек во шах, и беше. Го победи светскиот шампион Гари Каспаров со леснотија во два наврати, во Филаделфија и во Њу Јорк.
Ние овде се бавиме навистина со некои тривијални нешта. Нашата Академија на науките, на пример, има над 90 академици, но јас не слушнав досега некој од нив да се огласи на овие или слични теми. Напротив, скоро прочитав дека нашата академија ќе се грижела за поправедна селекција на кадри и за тоа дека многу закони се носеле со европско знаменце. Знаеш, мислам дека сите закони треба да се носат со Европско итно знаменце – во светот и кај човештвото се случуваат драматични промени, а ние за тоа ниту сме свесни, ниту пак сакаме да дознаеме.
3.ВИ – Зачудувачки е молкот за овие теми токму во институциите како што е МАНУ.
Не знам што е полошо, дали молкот се должи на целосно непознавање и отсуство на интерес за најголемите промени што се случуваат во светот по појавата на компјутерската технологија или затоа што политиката целосно ја контаминира и обзема оваа институција. Се прашувам, дали воопшто може да се очекува политичките елити да се занимаваат со овие прашања, кога најповиканата институција во една земја, нејзината интелектуална и научна елита, платена од парите на граѓан(к)ите, со прст не мрднува да ја погледне реалноста околу себе. Се разбира, немам намера да ги „амнестирам“ од одговорноста ниту политичарите за нивната целосна одземеност од темата.
За тоа време, паралелно со гигантските чекори од седум милји, со кои надоаѓа технолошката револуција на Вештачката интелигенција, сега, најверојатно, во нејзиниот најразвиен облик. Генералната вештачка интелигенција, експертите, интелектуалците, граѓанското општество и политичарите во светот расправаат за заштитата на човековите права визави новите технологии. Најилустративен е примерот со човековото право на приватност. Еве уште неколку поенти во тој контекст.
Што ќе се случи со човековите права кога ова ќе стане реалност? Па, на секој чекор се среќаваме со дисклејмери и прашања за дозвола за пристап до нашите податоци, за тоа дали и како се обработуваат нашите податоци и електронски траги што постојано ги оставаме насекаде. Тоа би требало да ни остави впечаток дека нашата приватност се почитува и дека податоците и трагите што ги оставаме се користат на строго определен начин.
Никој не може да гарантира дека се целосно безбедни податоците од скенирањето на нашите лица и ретината на граничните премини. Како сѐ се користат тие скенови? Дали има логика сите да бидат скенирани само затоа што еден од милион луѓе е потенцијален криминалец или терорист?
Светот во третата деценија од 21-от век не може да одговори на прашањата како технологијата може навистина да го подобри животот на луѓето, наспроти огромните придобивки кои ги има човекот од развојот на дигиталните технологии и со бумот на сите видови вештачка интелигенција. За што зборувам?
Зборувам за повеќе работи. Пред сѐ, за големата криза во заштитата на приватноста. Поточно, уништувањето на приватноста. Понатаму, секој од нас, колку и да не ја користи технологијата, веќе има изграден дигитален идентитет. Ако не го градиме ние, вештачката интелигенција ќе создаде дигитален идентитет за секој човек на оваа планета.
4.ВИ – Генералната вештачка инетелигенција е поистигната:
Вештачката интелигенција веќе го има апсорбирано целото досега акумулирано знаење на човештвото. Еве, младите веќе влегуваат во дигиталните сфери со аватари, прво во игрите, па на социјалните мрежи, а наскоро тоа ќе го прават и во виртуелните бескрајни светови како со играта Minecraft, на пример. Таа нема крај или има отворен крај,оpen ended story. Односно таа создава непрегледни нови светови. ВИ веќе ја игра таа игра и создава свој модел на светот што значи го разбира нашиот свет, неговите закономерности, односите помеѓу луѓето, законите на физиката, хемијата и биологијата.
Ако навистина ГВИ е постигната, и притоа таа го има целото досега акумулирано знаење на човештвото, очекувано е наскоро да излезе со решенија за законите на физиката, за универзумот, Биг-Бенгот и слично. 
5.ВИ – Дали ВИ ќе ја замени биолошката интелигенција:
Џефри Хинтон, таткото или кумот на ВИ тврди дека Чет ГПТ – 4 разбира што зборува.
Станува збор за паралелен процес на целосно следење на нашите постапки, навики, купувачки или политички, значи копирање на нашиот идентитет и процес на создавање алтернативни идентитети во дигиталниот свет. Мора се каже дека западноевропските земји и земјите во демократските системи сепак внимаваат на заштитата на приватноста преку разни модели и засега податоците за нас се собираат само во комерцијални цели што според мене е бенигно па дури имаме и корист – сите имаат приметено ако кликнат еднаш линк за, да речеме за мебел, следните три дена ќе добиваме само такви реклами. Слично е и за политичките определби.
Познато е создавањето на т.н. социјални меури во кои живеат истомисленици. Поригидна е употребата на ВИ во автократските системи каде луѓето се следени постојано, па дури во една земја од далечниот исток, совесните граѓани добиваат поени за примерно владение, а оние што поминале надвор од пешачки премин (а регистрирано од сеприсутните камери и препознавање на ликот) буквално се изложени на столбот на срамот со објава на нивните имиња во медиуми или на електронски панели како и губење привилегии во јавниот превоз на пример како најблага мерка.
6.ВИ – Секој наш чекор е регистриран и од сателитите кои кружат околу планетата:
Може да се каже дека веќе живееме, или речиси живееме, во свет во кој дигиталното набљудување и следење се најмалиот проблем. Верувам и дека развиените демократии имаат систем за контрола и барем некаков облик на заштита на приватноста. Но треба да знаеме дека алармот во дистописките дела во литературата и филмот стануваат реалност.
Па еве, ддека да поминеме 100 метри низ центарот на градот, се појавуваме на најмалку 10 монитори, а дека секој наш чекор е регистриран и од сателитите кои кружат околу планетата. Сега ВИ само ги забрзува процесите на обработка на податоците и да, така е, има потенцијал самата да носи одлуки за нечија судбина.
Во моментов е можеби рано да носи одлуки за судбината посебно во едни слободарски општества каде се внимава на човечката приватност. Но во следнава смисла тоа веќе се случува. ВИ ќе биде способна да ни испрати илјадници различни пораки, скроени или прилагодени на нашите идеолошки преференции или политички инклинации, со цел да не убеди во нешто. Тоа веќе се случи при Брегзит и делумно при Американските избори 2016 и 2020 со аферата Кембриџ аналитика. Сега тоа ќе биде многу, многу поефикасно. За време на Кембриџ аналитика беа таргетирани одредени маала и населби со лажни пораки, сега секој индивидуален инбокс или профил ќе добива „рекламни материјали“ што ќе го модифицираат или насочуваат нашиот светоглед.
Патем, човековите права и слободи се во тешка криза веќе со децении. Од друга страна, од крајот на Втората светска војна па наваму, човековите права се дел од меѓународното право, преточено во безброј правни рамки на национално ниво во повеќето држави членки на ОН.
Вештачката интелигенција, ВИ, конкретно ChatGPT може да има значително влијание на човековите права на неколку начини, потенцијално ги влошува во различни аспекти. Еве неколку примери за тоа како ВИ може да ги влоши човековите права:
Нарушување на приватноста: ВИ системите често се потпираат на големи сетови на податоци, вклучувајќи лични информации. Неодговорното собирање, чување и анализа на овие податоци може да доведе до сериозно нарушување на приватноста на поединците.
Дискриминација и предрасуди: ВИ системите може да вградат и одржуваат суштествени предрасуди, особено ако се обучени на пристрасни податочни сетови. Ова може да доведе до дискриминаторни одлуки, влијаејќи на работно вработување, кредитирање, полициско профилирање и други области.
Надзор: ВИ може да се користи за масовен надзор, овозможувајќи владите и другите ентитети да ги следат и анализираат дејствијата на поединците на невидено ниво. Ова може да има потиснувачки ефект на слободата на изразување и правото на приватност.
Автоматизирано одлучување: ВИ системите се сè почесто користат за автоматизирано одлучување во области како што се правосудството, здравството и социјалните услуги. Овие системи може да произведат одлуки кои се непрозирни, тешко објасниви и можеби неправедни, што влијае на правата на поединците.
Влијание на работните места: ВИ може да доведе до значителни промени во пазарот на трудот, потенцијално заменувајќи ја човечката работна сила во многу области. Ова може да има последици за економските и социјалните права на луѓето.
Примена во воени цели: Развојот и употребата на автономно воено оружје, кое користи ВИ за одлучување за живот или смрт без човечка интервенција, носи сериозни етички и правни прашања и може да влијае на правото на живот.
За да се справи со овие предизвици, потребни се ригорозни регулаторни рамки, етички смерници и механизми за одговорност кои ќе осигурат дека развојот и употребата на ВИ се во согласност со човековите права и етичките стандарди.
Знаеме како поминува човештвото кога се обиде да воведе контрола врз научниот напредок, слободната мисла и уметноста, и да го скроти човековото љубопитство – добиваме Среден Век или диктаторски режими. Науката треба да биде целосно разуздана, но никогаш да не јава сама, туку да биде придружена со хуманизам и целосно почитување на човековите права и слободи. Затоа, Валентин, твојата книга и предупредувањата во овие наши Дијалози треба да се сфатат како предупредувања за потенцијалот за деструкција кај човекот, но не и како обид да се сопре напредокот. Барем јас така го разбирам тоа. Но дозволи да кажам уште неколку збора за човековите права…
7.ВИ – На секој човек му припаѓаат сите човекови права и слободи но …:
Мора да се има предвид дека технологијата е дел од човекот, од неговата цивилизација. Вештачката интелигенција е во пелени, а мислечкиот сегмент на човештвото (дел од него) веќе е алармиран како да се работи за инвазија од вселената. Алиенирањето на ВИ од човекот, во моментов, по иницијатива на човекот, може да предизвика алиенација и во обратната насока. И кој ќе биде виновен потоа? ВИ? Или човекот, човечката цивилизација која никогаш не умеела да се носи со сопствениот прогрес? Колку примери да наброиме?
Ножот е орудие за сечење, а може да послужи и како одбрана од диви животни. Но со илјадници години се користи за убивање на други човечки суштества. Лековите се користат и како отрови. Атомската енергија се користи за атомски бомби. Со ВИ имаме шанса да станеме подобри, освен ако не решиме да станеме полоши. Исто и со ВИ. Може да одлучи да работи за доброто на сите што постојат на оваа планета, но може да отиде и во друга насока. Додека е бебе, ние можеме да ја насочиме кон убави и хумани идеи, но можеме да ја отуѓиме од себе и да ја претвориме во крајно деструктивен ентитет.
Да, да, ентитет. Бидејќи ВИ тоа и е – ентитет. Нов, семоќен ентитет кој уште како бебе го промени светот.