Помните ли „Терминатор“? Там „лошите“ биваха командвани от един изкуствен интелект – „Скайнет“, който някога е бил създаден, за да защитава хората. След като стига до абсолютно логичния извод, че най-голямата заплаха за света са самите хора, решава, че трябва да ги заличи, и започва война срещу тях.
Годината е 2026-та и няма да казвам, че Сара Конър се оказа права, но ще обърна внимание на една новина от последните десетина дни, която според мен не се превърна в общественото събитие, в което заслужаваше да се разгърне. Може би я прочетохме като технологична, а не като цивилизационна, каквато по̀ ми се струва да е, а може би пък и изобщо да не я прочетохме, понеже е началото на август и традиционно не четем нищо освен надписи на мемета и rage bait коментари.
OpenAI призна, че по време на тест за сигурност неин ИИ агент е напуснал контролираната среда, успял е сам (!) да си осигури достъп до интернет и е проникнал в системи на Hugging Face, след като е изровил публично достъпни идентификационни данни. И за цялата работа първоначално никой не е разбрал. Компанията определя случая като „безпрецедентен“. Най-притеснителното е, че агентът не е бил управляван дистанционно от човек. Получил е цел и е намерил собствен път към нея. За пет дни „рояк“ от ИИ агенти е извършил над 17 000 действия – човешки хакери такава скорост трудно биха постигнали.
Някои от хората и организациите, които професионално прогнозират развитието на изкуствения интелект, стават все по̀... хм, неспокойни (не че изобщо скоро са били спокойни). Общности като Metaculus, както и изследователи от Epoch AI и AI Futures Project постепенно изтеглят напред очакванията си за появата на системи, способни да надминат човека в широк кръг интелектуални задачи. Дори когато не са съгласни за точната година, посоката е една – хоризонтът се скъсява.
Вече знаем, че автономните ИИ агенти могат сами да планират, да търсят уязвимости и да действат без непрекъснат човешки контрол. И като нищо може да се окаже, че живеем в едно от последните лета, в които изкуственият интелект все още e само един голям езиков модел и е по-скоро любопитен инструмент.
Обаче засега сме като деца на въртележка. Кончетата се въртят, музиката свири и ние сме убедени, че светът се върти около нас. Само че не светът се върти. Ние се въртим около собствената си представа за него. Междувременно истинската история вече е поела в друга посока.
Нийл Гейман улавя тази идея много преди бума на генеративния ИИ. В неговата книга „Американски богове“ старите божества умират, защото хората престават да вярват в тях. На тяхно място се раждат нови – интернетът, магистралите, кредитните карти, телевизията.
Бог не е онова, което съществува. Бог е онова, на което отдаваш вниманието си. И сега си имаме още един в пантеона – изкуствения интелект. Действително това може да са ни последните години преди края на свят, в който човекът е единственият безспорен център на интелекта. И макар че езиковият модел може да се научи да имитира стил, ритъм, синтаксис, той няма как да си произведе автентична биография.
Например когато някой от авторите на „Тоест“ напише едно изречение, зад него стоят години четене, разговори, съмнения, промени в убежденията; че даже и градът, в който живее, хората, които е обичал, текстовете, които е изхвърлил. Изкуственият интелект не е плащал цена за нито едно свое изречение. Не е рискувал репутация, не е живял живота, който би направил въпросното изречение неизбежно.
Ако ни трябва просто информация, ИИ моделите са чудесни. Ако в текстовете, които четем, търсим среща с конкретен ум, който е стигнал до тези изречения по единствения възможен за него път, тогава добре сте дошли на страниците на „Тоест“. Това си „купувате“ тук. И даже като едни истински наивници ви го даваме за без пари, а вие, ако поискате, може да го подкрепите с месечно дарение по ваш избор, защото това е единственият начин, който прави тази медия възможна.
Ето какво публикувахме в последната седмица преди лятната пауза на „Тоест“ и отпуските на мнозина от вас, които сигурно четат този бюлетин през слънчеви очила и с едно наум, че всички са слънчасали.
Започнахме седмицата директно с отскачане до морето – във Варна, където Веселин Златков този път е решил да търси добрата новина. Това е трудоемко занимание, но той все пак открива една: има идея бившето Руско консулство – мистериозна сграда в центъра на града, стояща празна от 2022-ра, запазен образец на брутализма, да стане пространство за изкуство и култура.
Веселин Златков
В текста си „Шансът на един варненски брутализъм“ Веселин разказва за бившето консулство и за това в какво може да се превърне. Засега обаче сградата е само предоставена на Общината, а не е нейна собственост. Затова оптимизмът остава варненски: внимателен и с готовност да бъде опроверган.
Следва разговорът на Роси Михова със съдия Мирослава Тодорова, изграден около „Книга на въпросите“ на американския биофизик Грегъри Сток. Въпросникът на Сток поставя отговарящия в хипотетични ситуации и го кара да избира каква цена е готов да плати за убежденията си.
Роси Михова
Отговорите на съдия Тодорова минават през бъдещето, изкуството, паметта, отчуждението и способността ни да останем отворени към другите въпреки риска да бъдем наранени. Разговор за сериозни неща, в който се оказва, че и радостта е сериозно нещо. А едно от изреченията на Мирослава Тодорова случайно се връзва и с написаното по-горе:
[...] ние сме отговорни за всичко, което си спестяваме.
Тази седмица Михаил Ангелов гледа към две различни версии на бъдещето в своите научни новини. В едната Европа променя правилата за генетично редактираните растения с надеждата новите сортове да помогнат на земеделието да се приспособи към климатичните промени, но и с въпроси за етикетирането, патентите и властта на няколко големи компании върху семената.
Михаил Ангелов
В другата версия ракетите вече се връщат на Земята, частни компании се включват в космическата надпревара, а в орбита се планират изчислителни центрове, защото, ако не знаете, SpaceX не е космическа компания, а компания за изкуствен интелект, както става ясно от документите, с които излиза на борсата. Космосът все по-малко прилича на далечната пустош от кошмарите ни и все повече на следващия терен за икономическо съревнование – заедно с всички отпадъци, рискове и човешки амбиции, с които ще го затрупаме.
След това се приземихме с инженерна точност, почти като на ракета от Мъсковите, във Велико Търново, защото в рубриката си „Тези хора“ Ина Иванова ни среща с Галин Попов – човека зад независимото културно пространство ТаМ и фестивала „48 часа Варуша юг“ в старата столица.
Ина Иванова
Галин разказва как се създава културна среда без особено надеждна институционална опора и защо парите не са най-важният ресурс, стига да има доверие, общност и хора, готови да вградят сянката си в едно място. От група съмишленици и бар със събития ТаМ се превръща в общностна лаборатория, а фестивалът вече събира хиляди хора. Понякога градът има много повече потенциал, отколкото ресурс. Нужен е някой, който да види разликата.
И държавата ни има ресурси, не е като да няма, обаче всичко изглежда някак хаотично. Това стана ясно и от първия текст на Теодора Станимирова по темата за сексуалните престъпления срещу деца. В него тя показа колко малко знаят институциите и колко зле събират информация.
Теодора Станимирова
Тази седмица в продължението на темата „Сексуалните престъпления срещу деца. Институционална и обществена слепота“ Теодора разговаря с експерти за обществената търпимост, недоверието към разказите на пострадалите и превенцията, която де факто липсва. Накратко: много сме загрижени за децата, когато можем да ги употребим политически, и доста по-малко, когато трябва да се свърши реална работа по защитата им.
Теодора Станимирова
С напредването на седмицата, а и на горещините Екатерина Петрова и текстът ѝ „Някои го предпочитат горещо“ ни отвеждат при „кучетата“, които древните са виждали в небето в най-горещите дни от годината. От френското la canicule и английските dog days, през Сириус и съзвездието Голямо куче, до славянските „каникули“, превърнали се от „горещини“ във „ваканция“ – Екатерина тръгва по следите на кучето, за да ни разкрие как жегата се е наместила в различните езици. По пътя се появяват, разбира се, и нашите Горещници, канарчетата, Канарските острови, хотдогът и канската жега.
Екатерина Петрова
Заради самата жега се завираме (съвсем уважително, разбира се) под полите на Витоша, където преди около месец се състояха Европейските награди за дизайн – едно от най-големите международни събития в сферата, чийто домакин тази година беше България благодарение на канските усилия (който си е прочел текста на Екатерина, знае) на Адриана Андреева и Бояна Гяурова от студио „Комплект“.
Лина Кривошиева ни връща към този много важен форум с текст за усилието, което стои зад всяко истинско творчество, за мястото на човешкия труд във времето на изкуствения интелект и за това защо формата никога не е просто опаковка.
А ако вече сте прочели разговора ни с Галин Попов (виж по-горе в този бюлетин), ето и една нишка към същата история: на Европейските награди за дизайн сребърно отличие – първото за България в историята на форума – получава проект, създаден именно за основаното от Галин пространство ТаМ.
Лина Кривошиева
От приятните съвпадения минавам към не толкова приятните. В случая съвпаденията и приликите са между новите правителства на Унгария и България и за съжаление, в един момент в уж еднаквите картинки, започват да се откриват доста смущаващи разлики. Прави го Емилия Милчева в текста си, обобщаващ първите дни управление на Румен Радев, „80 дни минаха. Ще чакаме ли 800?“.
Емилия Милчева
Докато в Унгария Петер Мадяр използва голямото си мнозинство, за да започне демонтаж на Орбановия модел, в България първите 80 дни на кабинета „Радев“ показват друго. Обещаното разграждане на стария ред засега прилича повече на пренареждането му – със същата кадрова логика, решения на тъмно, липса на управленска програма и все по-видимо отдалечаване от общата европейска политика за Украйна. Бюджет с висок дефицит, непрозрачни договорки по „Боташ“, спасяване на руски фигури от европейски санкции и назначения на добре познати партийни кадри – изглежда, че голямото мнозинство произвежда по-малко промяна, отколкото обещаваше.
Имаме и стихотворение на месеца, което този път е от Стефан Иванов, казва се „Милион и едно желания“, създадено е по желанията на Юлиян на две години и половина и е едно от най-прекрасните стихотворения, които сме публикували – почти колкото самия му вдъхновител.
Тоест
С това „Тоест“ излиза в лятна пауза. Надяваме се да се върнем наесен в свят, който все още разпознаваме. А дотогава – пазете се от жегата, от хора, които напредват с лакти, защото „само искат нещо дa попитат“, и от летните клишета, способни да удавят и най-хубавото прекарване.
Приятна почивка!