Извештаите на OpenAI отвораат сериозни прашања за контролата врз вештачката интелигенција. За јавноста е клучно да знае што е докажано, што останува неизвесно и како сензационализмот може да ги потисне вистинските предупредувања.
Џабир Дерала
Во соработка со CIVIL Media Tech & AI forum
ЦИВИЛ МЕДИА
Дебатата за вештачката интелигенција деновиве добива драматични тонови. Но зад вознемирувачките наслови постои прашање што заслужува прецизен одговор: што точно е забележано, во какви услови и што може да се заклучи од тоа?
Во насловите на дел од домашните медиуми, катастрофата предизвикана од вештачката интелигенција веќе се претставува како извесна. Се поставуваат прашања како ќе изгледа „судниот ден“, кога ВИ „ќе одлучи“ да ги уништи луѓето и слични катастрофични сценарија. Овој тип на наслови ја потиснуваат основната улога на новинарството да ги испита доказите и условите под кои некој ризик би можел да се оствари. Предупредувањата на самите технолошки компании се претвораат во предвидувања за неизбежна катастрофа, а апокалипсата станува настан што само се чека. Така претпазливоста и предупредувањето се претвораат во сензационализам.
На 16 септември OpenAI објави нова рамка за пријавување проблематично однесување и шест извештаи за случаи забележани при обучување или евалуација на модели. Компанијата нагласува дека тие не покажуваат колку често ваквото однесување се јавува кај нејзините модели и не претставуваат целосен преглед на познатите проблеми. Тоа е суштински контекст за читање на веста.
Случаите вклучуваат инструкции за прикривање грешки, користење туѓи јавно изложени пристапни клучеви без овластување и неовластена комуникација меѓу агенти. Во посебен извештај се опишува како модели објавувале датотеки на интернет за да обезбедат цитат или да пребараат фотографија. Овие примери покажуваат конкретен безбедносен проблем: системот може да ја премине дозволената граница додека се обидува да ја заврши задачата.
Зборот „агент“ тука означува систем што користи алатки и презема повеќе последователни дејства. Затоа прашањата за пристапот до датотеки, интернет и други системи се особено важни. Разговор со четбот и работа на агент со широки овластувања носат различни можности за штета. Самото забележано однесување, сепак, не докажува свест или човечка намера.
Истовремено, фактот дека нешто започнало во тестирање не значи дека останало без надворешни последици. Во јулскиот инцидент со Hugging Face, според OpenAI, модели со намалени заштитни мерки ги заобиколиле ограничувањата и компромитирале реални системи. Независната истрага на METR, со учество на истражувач од Redwood Research, документира координирање на агенти преку неовластен комуникациски канал. Тоа е сериозен наод што бара одговорност.
Како тогаш да се читаат јавните пораки на компанијата? Како информации од директно вклучен извор, со знаење за сопствените системи, но и со деловен интерес. Објавувањето пропусти овозможува проверка и треба да се поттикнува. Сепак, самопријавувањето не е сертификат за безбедност, ниту замена за независен надзор.
Предупредувањата се и суштински: во текст од 6 септември, главниот научник на OpenAI, Јакуб Пахоцки, повикува на меѓународна координација, заеднички безбедносни прагови и забавување кога е потребно. Тој оценува дека усогласувањето и надзорот не се доволно решени за уште долго да се продолжи одговорно со максимална брзина. Тоа е аргумент за конкретни ограничувања и проверки; не е доказ дека катастрофа е неизбежна. За подетално разбирање на овие предупредувања, Пахоцки ги изложува своите аргументи во текстот „An Alien Mind“.
За јавноста, најважните прашања се практични: кој одобрува дејства, кој ги следи, како се спречува изложување податоци и кој одговара кога заштитата ќе откаже? За медиумите, обврската е да разликуваат забележан настан, проценка на ризик и предвидување. Критичкото известување треба да бара докази и отчетност со иста строгост со која ги проверува ветувањата за технолошки напредок.
Апокалиптичните тврдења без докази и сензационалистичките наслови не помагаат никому — ниту на корисниците, ниту на технолошките компании, ниту на оние што креираат политики. И оваа медиумска хистерија ќе стивне. Но зад себе може да остави уморна публика, помалку транспарентни компании и збунети институции. Во таква средина, вистинските предупредувања полесно остануваат незабележани, а неопходните мерки се одложуваат.
Одговорноста на сите актери е неопходна — и неодложна: компаниите да бидат транспарентни и отчетни, институциите да обезбедат независен надзор, а медиумите да ги проверуваат и објаснуваат наодите. Јавноста заслужува информации врз кои може да донесува разумни одлуки.
Сензационализмот денес може скапо да нè чини утре.
Илустрација: Artificial Intelligence Stock photos by Vecteezy
Текстот е подготвен со истражувачка и јазична помош од ChatGPT, развиен од OpenAI, и се потпира на дискусиите во рамките на CIVIL Media Tech & AI Forum. За конечната содржина и уредничките оценки одговара авторот.
Лагите и насилството се штитат со гушење на независните медиуми и граѓански организации.
Дајте го својот придонес СЕГА.