Компанијата соопшти дека нејзините модели биле злоупотребувани и за надзор, пропагандни операции и измами, а кај поновите системи вовела построги заштитни механизми.
Компанијата за вештачка интелигенција Anthropic соопшти дека блокирала повеќе обиди за злоупотреба на нејзините модели за сајбернапади, надзор и истражувања што потенцијално би можеле да придонесат кон развој на биолошко оружје.
Во својот најнов извештај за закани, компанијата наведува дека меѓу декември 2025 и август 2026 година открила и спречила активности на осомничени државно поддржани групи, комерцијални компании за шпионски софтвер, финансиски мотивирани криминалци и политички активисти.
Според Anthropic, сè помоќните модели им овозможуваат и на лица без напредни технички знаења да спроведуваат сложени сајбероперации за кои до неодамна биле потребни поголеми тимови и специјализирана експертиза. Компанијата нагласува дека случаите опишани во извештајот не претставуваат вообичаена употреба на нејзините системи, туку најзначајните и најновите закани што ги открила.
Во еден од случаите, системите на Anthropic блокирале барање Claude да помогне во изработка на апликација за финансирање истражување поврзано со генетско менување на вирусот чикунгуња. Истражувањето се однесувало на зголемување на неговата преносливост и способноста да го избегнува имунолошкиот одговор.
Компанијата оценила дека ваквите истражувања можат да имаат легитимна примена во развојот на вакцини и терапии, но истовремено би можеле да бидат искористени и за создавање поопасен патоген.
Anthropic наведе дека не може со сигурност да тврди дека денешните, понапредни модели не би можеле значително да помогнат во опасни биолошки истражувања. Поради тоа, во поновите верзии на Claude биле воведени построги ограничувања за широк спектар биолошки прашања со двојна намена.
Извештајот опишува и девет операции за влијание од Русија, Иран, Турција и други региони. Во некои случаи биле создадени стотици профили на социјалните мрежи, претставени како обични корисници, кои координирано ширеле исти политички пораки.
Експерти предупредуваат дека заштитата од ваквите ризици не треба да им биде препуштена само на технолошките компании и повикуваат на демократски надзор и државна регулација на вештачката интелигенција.
Извори: Associated Press | Anthropic