Magnifica Humanitas, или за кожата на един изкуствен интелект

В първите дни на юни прочетох призива на Anthropic за координирано забавяне на темпото на развитие на изкуствения интелект (ИИ), тъй като рискът човечеството да загуби контрола върху тези технологии ставал все по-реален. В главата ми зазвуча трескавият ритъм на летния шлагер „По-полека“ на Стефан Вълдобрев и „Обичайните заподозрени“ – и най-вече онази част:

По-велико. По-красиво. Малко по-такова.
По-дебело. По-широко. Опаковано. Готово. (...)
По-високо. По-нагоре. Повече по много.
По-богато. По-голямо... По-добре по-ново.

Досещате се защо...

Anthropic е американска компания за ИИ, разработваща една от най-известните серии от големи езикови модели – Claude. Според нея съвсем скоро ИИ ще започне да се самоусъвършенства, без да има нужда от хора да му помагат за това (както е в момента).

От Anthropic не за първи път отправят предупреждения за един или друг риск. И това се вписва добре в публичния образ, който компанията преследва, защото една от изтъкваните ключови причини неколцина съоснователи на OpenAI да напуснат изследователската лаборатория през 2021 г., за да правят отделен стартъп, е стремежът към по-голяма безопасност в разработването на ИИ. Трогателен морален ангажимент, дума да няма.

По принцип Anthropic обичат да мятат медийни бомби с декларации и предсказания на ръба на здравия разум. Лидерската им роля в този сегмент им дава основание да „изпускат“ информация от кухнята с легитимността на някой, който предполагаемо знае нещо повече от останалите. Това пък си е чудесен подход за поддържане на интереса на публиката и инвеститорите.

Впрочем тази декларация за забавяне на развоя беше направена на 4 юни. И на 9 юни, съвсем напук на своя призив, Anthropic обяви поредния си по-велик голям езиков модел Claude Fable 5, който само няколко дни по-късно, на 12 юни, беше спрян от американското правителство с аргументи за опазване на националната сигурност. И това ако не е двойна доза ирония на съдбата…

Claude Fable 5 всъщност беше анонсиран като „обезопасена версия“ на най-могъщия (за момента) модел на Anthropic – Claude Mythos 5, който според маркетинговите описания на създателите му притежава изключителни способности за откриване на софтуерни уязвимости, а може да се ползва и за сложни анализи в областта на биологията, медицината и здравеопазването. Заради огромния си капацитет за злонамерена употреба (например за кибератаки) използването на Mythos 5 е възможно само по специална програма за доверен достъп под надзора на правителството на САЩ, наречена Glasswing. А Fable 5 реално е версия на Mythos 5 за масовия потребител и бизнеса, с вградени филтри за сигурност, които да разпознават и блокират потенциално опасни запитвания и злонамерена употреба.

На 11 юни, или два дни след публикуването на модела, изпълнителният директор на Amazon Анди Джаси изразил безпокойство пред Белия дом относно евентуалните възможности за заобикаляне на предпазните механизми на най-новото творение на Anthropic. За пълнота е важно да се уточни, че Amazon е инвеститор в Anthropic (с около 13 млрд. долара до момента и ангажимент за още 20 млрд.), но е още по-голям инвеститор в OpenAI (с уговорена рамка за 50 млрд. долара). Източници на няколко медии потвърждават информацията, че Анди Джаси се е обадил директно на министъра на финансите Скот Бесент във връзка с предполагаемите уязвимости, което е изиграло съществена роля в „стряскането“ на администрацията.

До сутринта на следващия ден паниката в Белия дом вече е стигнала най-високите нива. След няколко разговора между администрацията и Anthropic, в които от компанията отричат да има реален проблем, и настояват, че казусът е „недоразумение“, а Белият дом твърди, че констатациите на Amazon са били прегледани и потвърдени от Агенцията за национална сигурност на САЩ, Anthropic е била притисната доброволно да спре предлагането на Fable 5. Компанията е отказала да го направи, без да получи повече информация и време, за да я анализира.

В крайна сметка, недоволен от хода на разговорите, Белият дом се е позовал на регулациите за контрол на износа и опазване на националната сигурност и е разпоредил Anthropic да спре достъпа на всички чужди граждани до Fable 5 и Mythos 5 – както в страната, така и извън нея, в т.ч. и на собствените си служители, които не са американци. И всичко това заради хипотетична уязвимост, която не е конкретно описана нито в разпореждането на правителството, нито по някакъв друг начин.

Да разпоредиш една технология да не бъде достъпна за чужденци в днешния глобален свят не е рестрикция, а дърпане на щепсела.

Защото на практика това няма как да бъде изпълнено. Затова и Anthropic реши да спре достъпа на всички – просто е по-лесно.

Любопитен факт е, че драмата с Anthropic в САЩ даде повод и за шеговита рекламна кампания на френските разработчици на ИИ Mistral AI, която социалните мрежи така охотно поеха и усилиха през последните две седмици, че голяма част от публиката започна да се чуди дали моделът Le Chaton Fat („дебелото коте“) е реалност, или шега.

Шеговит анонс, че Европа забранява модела „Дебелото коте“, защото е твърде голям. Около час по-късно анонсът беше свален. — Шеговит анонс, че Европа забранява модела „Дебелото коте“, защото е твърде голям. Около час по-късно анонсът беше свален

Все пак две седмици по-късно, на 26 юни, правителството на САЩ смекчи ограниченията върху Mythos 5, позволявайки на Anthropic да предостави достъп до него на стотина американски организации, включително големи корпорации и правителствени агенции. Организациите, които са одобрени да използват Mythos 5, вече можеха да позволят на своите служители с чуждо гражданство да използват модела. Това обаче върна ситуацията към времето отпреди пускането на Fable 5, защото Mythos 5 така или иначе вече беше достъпен при тези условия за организациите в рамките на програмата Glasswing.

Междувременно стана известно и че само няколко дни преди спирането на достъпа до Fable 5 правителството на САЩ е поискало от Anthropic да извади от програмата Glasswing най-големия мобилен южнокорейски оператор SK Telecom заради подозрения за връзки с Китай. Няма данни компанията да се е подчинила. В този ред на мисли, дали Amazon не е влязла в ролята на полезния идиот, за да даде повод на администрацията на Тръмп да се възпали по темата, е въпрос, чийто отговор вероятно никога няма да научим.

В крайна сметка на 30 юни наложените рестрикции бяха отменени и Anthropic обявиха, че Fable 5 ще бъде отново достъпен от 1 юли (с някои ограничения). Но сагата повдигна по-широки въпроси относно общата посока на американската политика в областта на ИИ и по-конкретно до каква степен администрацията на Тръмп ще се стреми да контролира бъдещи нови модели. На същия 26 юни, когато правителството смекчи ограниченията върху Mythos 5, от OpenAI обявиха, че отлагат премиерата на GPT 5.6 по настояване на правителството.

Ако преди цялата тази история „безопасност“ в разработването на ИИ значеше моделът да отказва помощ на злонамерени потребители, сега вече може да означава своеобразна проверка на паспорта и глобално изключване заради уязвимост, която никой не назовава. Ако се огледаме около себе си, ще видим, че мнозина от нас работим в компании, пълни със способни хора, които не са американци. Аз също нямам американски паспорт, затова нищо не ми пречи да говоря направо: да ограничаваш достъп до даден инструмент въз основа на месторождение не е стратегия, нито законосъобразност, а чист митнически контрол.

Темата със сигурността е щекотлива. Първо, защото двете страни на този спор твърдят различни неща, които обаче нямат намерение да доказват, и за конкретиката може само да се спекулира. При всички случаи обаче такива крайни решения не трябва да бъдат вземани без задълбочена и прозрачна техническа дискусия съгласно установените стандарти и добри практики, в която казусът да се разнищи детайлно. Противното означава, че с политическо решение може да се спре всяка технология. И това не е управление на сигурността, а е упражняване на власт.

И второ... повечето специалисти по сигурността така или иначе отдавна смятат, че заложените в ИИ защитни бариери са нещо като легналите „полицаи“ по пътищата – може и да забавят някого, но не са никаква гаранция за сигурност, ако насреща има злонамерен противник.

Уви, в този скандал няма изцяло добри герои.

Какво обаче означава това развитие на събитията за Европа и всички останали, които сега и в бъдеще няма да разполагаме с американски паспорти?

Ние в ЕС малко прекаляваме с отчаяната мантра за нашата зависимост от американските технологични гиганти. Зависимост има, но тя е установена по инерция, а не от нужда, и може да бъде минимизирана. Защото европейски алтернативи има. Има дори български, някои от които изключителни. Има забележителни немски и френски технологии, включително в сферата на сигурността, както и ИИ инструменти, които печелят стабилна база клиенти в конкуренция с най-големите. Без медийни бомби и без налудничави декларации и предсказания.

Стремежът на ЕС към по-голям дигитален суверенитет, което пък е стратегически важно за нашата обща европейска сигурност и икономическо развитие, всъщност в бъдеще ще дава допълнителни предимства на европейските технологични стартъпи. Дори когато са малко по-бавни или отстъпват с някой процент в различни класации. Европейският бизнес е прагматичен и знае от опит, че не е необходимо всеки да кара кадилак, когато и шкода върши същата работа.

Най-добрата новина е, че в основата на т.нар. технологичен суверенитет на Европа застава Стратегията на ЕС за отворения код заедно със солидна допълнителна законодателна рамка, част от която са и предложенията за:

Законодателен акт за интегралните схеми 2.0, целящ изграждането и укрепването на производствен капацитет за полупроводникови технологии (включително масовите чипове);
Законодателен акт за развитие на компютърните услуги в облак и изкуствения интелект (CADA), стимулиращ изграждането на енергийно ефективни центрове за данни, както и развиването на ИИ и облачните услуги.

Щеше да е чудесно, ако всичко това беше започнало едно или даже две десетилетия по-рано, но... сега поне не е нужно да се убеждаваме взаимно колко е важно и наложително.

Европа се ориентира правилно и бързо и по отношение на дистанцирането от американски технологични компании със съмнителна репутация – като Palantir, които рязко загубиха договора си с германското правителство през май, а с френското – през юни тази година. При това Франция прекрати договор, който току-що беше преподписала (през декември 2025 г.).

Случайно или не, но изпълнителните директори на три от големите ИИ компании – Дарио Амодей (Anthropic), Сам Олтман (OpenAI) и Артур Менш (Mistral AI) – бяха сред поканените на работен обяд в Елисейския дворец ден преди срещата на Г-7 в Париж, на който са се обсъждали регулациите в сферата на ИИ. Има непотвърдени медийни спекулации, че след този обяд са обсъждани и идеи за стратегическо присъствие на Anthropic на територията на ЕС.

За съжаление, важният разговор около ИИ за човека и човечеството продължава да е неглижиран. Затова пък само няколко дни преди гореописаните драми в технологичния свят папа Лъв XIV върна темата на дневен ред, като представи в Синодалната зала във Ватикана първата си енциклика, озаглавена „Magnifica Humanitas. За защитата на човешкото достойнство в ерата на изкуствения интелект“. На събитието е присъствал и Крис Ола, един от основателите на Anthropic, което е симптом за необичайността на времето, в което живеем. Колко често виждаме институция, която традиционно мисли в мащаба на векове, да коментира индустрия, която планира в хоризонта на тримесечия?

Вместо за забавяне или регулации обаче папа Лъв XIV призовава за етично управление на ИИ, настоявайки за подновен фокус върху справедливостта, човешкото достойнство и „нов хуманизъм“ в дигиталната епоха.

Основното му опасение не е, че ИИ е зло, а че дори един морален ИИ е безполезен, „ако този морал се определя от неколцина“. Той посочва, че движещите сили на технологията са частни транснационални компании, които надминават капацитета на много правителства, и иска тази технология да бъде в услуга на хуманността, преди да е превърнала хората в зъбни колелца на машина за ефективност. Не е нужно да сме религиозни, за да признаем, че това е по-ясно описание на проблема с властта от повечето неща, които самата технологична индустрия казва за себе си.

Призовани сме да се замислим за големите „строителни площадки“ на нашата епоха и да се попитаме: какво градим? Тъй като технологичното развитие бързо трансформира езиците, взаимоотношенията, институциите и формите на власт, ние, вярващите, трябва и можем да изберем по кои проекти да работим и по какъв начин, така че да защитим и оценим величието на човечеството, което ни е дадено като дар. Това е избор не само за нашето бъдеще, но и за нашето настояще, тъй като изкуственият интелект и другите нововъзникващи технологии вече са част от нашето ежедневие.

Папа Лъв XIV, Magnifica Humanitas, 2026 г.

Бъдещето не е нещо, което ИИ причинява на хората. То е такова, каквото именно ние, хората, по един или друг начин избираме да изградим. Проблемът е, че добрата версия на това бъдеще не ни е гарантирана по подразбиране.

Крис Ола от Anthropic от същата онази трибуна до папата признава, че ИИ компаниите оперират „в рамките на стимули, които могат да влязат в конфликт с правилното поведение“. Затова те не могат да бъдат модел как да се използва ИИ. Това е отговорност, която никой не бива да сваля от плещите си. Никой сам не би могъл да повлияе глобално на ИИ, но всеки може да влияе на своя работен процес, на своя продукт, на конкретна фирмена политика или на потенциала на екипа си. И винаги е за предпочитане това да бъде съзнателен избор и поета отговорност.

Пасивната критика не носи ползи. Ефектно и лесно е да призоваваме за пауза, мораториум или забавяне. Или да отхвърляме напълно ползването на ИИ. Сигурно носи някакво усещане за чиста съвест, но е бягство от реалността, което не променя нищо, защото финансирането, стимулите и геополитиката вече са задействани. Не можем да управляваме нещо, което отказваме да докоснем. А както пише папата в енцикликата, технологията приема характеристиките на хората, които я проектират, финансират, регулират и използват. Трябва да изберем дали да сме част от тези хора, или ще стоим отстрани и ще оставим другите да оплескат всичко.