Close Menu
НОВА ТВНОВА ТВ
  • НАСЛОВНА
  • ВЕСТИ
  • ЗУМ
  • УДАРНО
  • ИЗБОР
  • ТЕМА
What's Hot

Интервју со Павле Гацов: Малите економии имаат мал број алтернативи за справување со американскиот економски протекционизам

April 7, 2025

Интервју со Мирче Јовановски: Последиците од царините на САД – губење работни места и странски инвестиции и намален извоз

April 3, 2025

Интервју со пратеничката на СДСМ Славјанка Петровска: Ни треба повеќе храброст но не во ветувањата туку во исполнувањата

March 25, 2025
НОВА ТВНОВА ТВ
  • НАСЛОВНА
  • ВЕСТИ
  • ЗУМ
  • УДАРНО
  • ИЗБОР
  • ТЕМА
НОВА ТВНОВА ТВ

Има ли ОПЕН АИ СУПЕРИНТЕЛИГЕНЦИЈА? Пет од основачките истражувачи за супералајнмент го напуштија тимот

0
By Marija Todorovska on May 21, 2024 ТЕМА
СПОДЕЛИ
Facebook Twitter LinkedIn Email

Илија Суцкавер, главниот научник и еден од основачите на ОПЕН АИ како и Јан Леике, еден од двајцата шефови на тимот за супералајнмент со задача да ја контролира ВИ и да ја приспособи на потребите на човештвото дадоа отказ. Интернетот пукна – шпекулации дека е достигната не Генерална Вештачка Интелигенција, туку Вештачка СУперинтелигенција која може да биде милион пати попаметна од човекот.

Валентин Нешовски

Се тресе деновиве делот од интернетот кој ги покрива настаните околу Вештачката Интелигенција (ВИ). Главниот научник на Опен АИ, контроверзниот гениј, кого во јавноста го немаше од обидот за рушење на Сем Алтман, ЦЕО на Опен АИ, поднесе оставка.

Разделбата беше пријателска, со заедничка слика со главниот тим на компанијата и твит на X каде Илија им посака среќа, но додаде и „сигурен сум дека ќе создадат Генерална вештачка интелигенција“ (ГВИ). Нешто слично направи и Сем Алтман со твит каде обзнани дека Сицкавер заминува и дека го смета за „еден од најголемите умови на нашата генерација и водечко светло во полето со кое се бавиме“.

Овие две оставки се само дел од серијата научници кои последниов месец заминаа од можеби најважниот тим во рамките на Опен АИ. Всушност, откако Опен АИ го направи пробивот, веќе и не е проблем да се создаде сериозна ВИ, а доказ за тоа е што веќе има стотина сериозни компании кои имаат отворени или затворени ВИ модели. Поголем проблем со напредокот на интелигенцијата на ВИ е како таа да се усклади со вољата, потребите и сè уште доминатната етика и морал на човештвото. Тренирана на Интернет, овие големи јазични модели ги прочитаа и меморираа и најбизарните и најморбидните агли на човечката психологија и реалност, па уште од почетоците се постави прашањето „Што ако ВИ, или ГВИ или најопасно, некоја СВИ се одметне“. Стотици пати поинтелигентна и поинформирана од било кој човек или тим, би направила големи штети.

Од овие причини Опен АИ формираше тим за супералјнмент со основна цел да се обезбедат методи што ќе осигураат дека некоја идна СВИ би била безбедна. Во документ од 50тина страници што овој тим го објави  на 14 декември 2023, се вели – „Неодамнешниот напредок во вештачката интелигенција е побрз отколку што речиси сите очекуваа (Штајнхард, 2022; Бенџо et al., 2023). За зголемен број на истражувачи, можноста дека суперчовечки модели ќе се развијат оваа деценија стана сè поверодостојна. Општо земено, натчовечките модели би биле извонредно моќни и, доколку се злоупотребат или не се усогласат со човечките вредности, потенцијално може да се предизвика катастрофална штета (CAIS, 2022). Со оглед на влоговите, треба да воспоставиме исклучително висока верба во усогласување на овие системи однапред. Но, со години беше нејасно како емпириски да се проучуваат и усогласат овие натчовечки модели. Ние веруваме дека сега, од кога било повеќе досега, е полесно да се постигне напредок во решавањето на овој проблем“.

Практично велат дека е опасно и дека можно е СВИ да се достигне оваа декада. Планирано било, уште велат, проблемот со супералајнмент да се реши за 4 години.

Многумина, практично, дисолуцијата на тимот ја протолкуваа во спектарот од „нешто чудно се случува“ до можноста дека Опен АИ има СВИ во лабораторија и дека недоврабата кон Сем Алтман, кој и досега беше обинуват дека е невнимателен и дека трката за доминација на пазарот му е најважна, ги натерала да заминат. Впрочем Алтман пред неколку месеци за влакно избегна „пуч“ во главниот одбор на компанијата, според некои воден и од Суцкавер, но деталите за обидот за отпуштање на Алтман останаа тајна. После оваа епизода, Алтман, според Вол Стрит Џурнал се впушти во барање 7 трилиони долари за инвестиции во инфраструктура за ВИ, која според други, би била неопходна за ГВИ па дури и за СВИ.

Со последните збиднувања тимот за супералајнмент остана десеткуван (иако Алтман веднаш го постави Џејкоб Пацочки на местото на Суцкавер) бидејќи од таму заминаа уште најмалку четворица водечки истражувачи. Лополд Ашенбренер, пријател на Суцкавер беше отпуштен минатиот месец, Павел Измаилов, беше отпуштен за неовластено протечување на информации и сега работи за Тесла, Кулен О’Кеефе, дел од тимот исто така ја напушти компанијата, а Вилијам Саундерс напиша криптичен пост на еден форум на ЕА (Ефективен алтруизам) во кој ја опиша неговата работа во полето на супералајнмент и загадочно додаде „дадов отказ на 15 февруари 24“. На прашањето зошто?, одговори „No comment”. ЕА е форум на движењето Ефективен Алтруизам создадено од повеќе истражувачи во оваа област кои се залагаат за голема претпазливост и многу бавен развој на ВИ.

Инаку, според погоре споменатиот документ на тимот на супералајнмент, проблемот на контрола и обезбедување човечка етика и морал на евентуална СВИ, што сега се прави со reinforcement learning from human feedback (RLHF) метода, би се направило со нов модел, а тоа е GPT-n +1, односно претходниот модел ВИ би го учел наредниот модел. За илустрација – сега е актуелен GPT 4o (објавен пред една седмица), и тој би се употребил за контрола и учење на наредниот модел на пример ГПТ – 5 (види слика).

 

За проблемот во тимот на Опен АИ зборуваше и Даниел Кокотајло, кој работел во тимот за владеење (governonce team), кој исто така ја напушти оваа водечка компанија. Во еден пост тој зборува за способностите што СВИ би ги имала и ги споредува со магија, а во точката 4 од постот (види слика) вели дека оној што ќе има СВИ е има моќи слични на Господ.

 

Во друг пост пак дури прогнозира дека постојат 15 отсто шанси ГВИ да се достигне ГОДИНАВА. А според многумина времетраењето на отклонот од ГВИ до СВИ ќе трае можеби секунди, можеби неколку месеци. Односно генерална човечка интелегенција со енциклопедиско знаење која работи на супермоќен компјутер веднаш би произвела нови знаења и откритија со експоненцијална брзина.

 

Инаку и Сем Алтман зборува од опасностите од СВИ и од важноста од супералјнмент. Во разни интервјуа вели дека ГВИ може да се достигне оваа декада, а во интервју за Грејлок вели „Би било многу лошо ако не прави тоа што ние сакаме, или има цели што или се во конфликт со нашите или не се грижат многу многу за нас луѓето.  Проблемот со алјанментот е како да направиме ГВИ да работи во најдобриот интерес на луѓето“, вели Алтман. Тој зборува и за трите варијанти, да настане случајна грешка, да дојде во раце на лоши луѓе или пак да се претвори во суштество кое нас не гледа како закана.

Во меѓувреме секој ден се објавуваат нови и нови алатки базирани на ВИ, Реј Курцвел, иноватор, футуролог и ВИ истражувач вели дека до 2030 ќе се достигне бесмртност. Неговите 147 превидувања за до 2030 година досега имаат 86 отсто точност.

Преземено: Фронтлајн

Open AI суперинтелигенција
Share. Facebook Twitter LinkedIn Email
ТИКЕР

Меркел: Дали Путин ќе ја нападнеше Украина ако не се случеше пандемијата?

October 6, 2025

Се преврте чамец со 11луѓе во Дунав кај Бачка Паланка, има настрадани

October 6, 2025

Довербата во германската владина коалиција падна на рекордно ниско ниво

October 5, 2025

Турските власти го забранија концертот на Роби Вилијамс во Истанбул поради безбедносни причини

October 5, 2025

„Златна треска“ во приморкса Бугарија по веста дека поплавата однела сеф со милиони лева и со и златни прачки

October 5, 2025
ФОКУС

По само нецел месец францускиот премиер Себастијан Лекорну поднесе оставка

ВЕСТИ October 6, 2025

Новиот француски премиер Себастијан Лекорну поднесе оставка, објави денеска Елисејската палата, пренесе ДПА.

Израел и Хамас почнуваат преговори во Египет за мировниот план на Трамп за Газа

October 6, 2025

Кијив: Во руските напади врз Запорожје едно лице загина и девет други се повредени

October 5, 2025

Родителите од Кочани до мицкоски: треба да се засрамиш, а не да одиш со крената глава

October 4, 2025
ТИКЕР

Меркел: Дали Путин ќе ја нападнеше Украина ако не се случеше пандемијата?

October 6, 2025

Се преврте чамец со 11луѓе во Дунав кај Бачка Паланка, има настрадани

October 6, 2025

Довербата во германската владина коалиција падна на рекордно ниско ниво

October 5, 2025

Турските власти го забранија концертот на Роби Вилијамс во Истанбул поради безбедносни причини

October 5, 2025

„Златна треска“ во приморкса Бугарија по веста дека поплавата однела сеф со милиони лева и со и златни прачки

October 5, 2025
CIVICA
Facebook
  • Редакција
  • Маркетинг
  • Политика на приватност
© 2025 НОВА ТВ

Type above and press Enter to search. Press Esc to cancel.