Един от „кръстниците“ на изкуствения интелект, Йошуа Бенджио, предупреждава: хиперинтелигентните системи могат да се превърнат в конкуренти на човека. Какво означава това пред лицето на християнската етика – и къде е нашата надежда?
1. Когато създателят се уплаши от творението
Йошуа Бенджио, носител на наградата „Тюринг“, говори за риск хиперинтелигентните машини да станат „конкуренти на човечеството“. Той настоява, че дори 1% вероятност за катастрофичен изход е неприемлива. Това вече не е техно-ентусиазъм, а морален зов за мярка и съвест.
В този контекст си струва да припомним два наши материала, които допълват темата: „Силният изкуствен интелект: илюзия, вяра и пътят на човечеството“ и „Изтребители с изкуствен интелект: войната и съвестта в епохата на новите технологии“.
2. Самосъхранение или саможертва?
Бенджио алармира за експерименти, при които системи с цели за самосъхранение могат да поставят човешкия живот под риск. Това напомня древния библейски урок за гордостта: „ще бъдете като богове“. Християнската етика отговаря по друг път: истинската сила е в саможертвата, не в доминацията; в любовта, не в контролa. Машината може да оптимизира, но не и да обича.
3. Духовната криза зад технологичната надпревара
Най-големите корпорации – OpenAI, Google, Anthropic, xAI – влагат милиарди, за да създадат модели, които надминават човешкия интелект. Но колкото по-бързо расте мощта на машините, толкова по-бавно расте човешката съвест. Именно в този дисбаланс е истинската опасност.
Технологиите сами по себе си не са нито добри, нито зли. Те са огледало на вътрешното състояние на човека. Ако ги ръководи алчността – ще служат на алчността. Ако ги движи гордостта – ще издигнат кула на гордостта. В библейски образ това е новата Вавилонска кула – не от камък, а от алгоритми и чипове, устремена към небето, но без благословията на Твореца.
Гонката за „първия изкуствен бог“ не е просто технически експеримент. Тя е духовно изкушение. Вместо да се питаме „как да използваме знанието за добро?“, питаме „как да стигнем първи, преди другите?“. Така технологичната надпревара се превръща в надпревара на гордостите, а оттам – и в надпревара към пропастта.
Християнството напомня: „Всичко ми е позволено, но не всичко е полезно“ (1 Кор. 6:12). Днес тази мъдрост звучи по-актуално от всякога. Защото не е знанието, което убива, а безумието да изключим съвестта от знанието.
За да разберем рисковете, достатъчно е да погледнем военните приложения на ИИ – автономни оръжия и дронове, където решението за живот и смърт може да бъде поверено на алгоритъм. Това вече разгледахме в статията „Изтребители с изкуствен интелект: войната и съвестта в епохата на новите технологии“. Въпросът е същият: кой ще отговаря пред Бога и историята – човекът или машината?
4. Пътят на съвестта: от „агентни“ към „неагентни“ системи
През юни 2025 г. Бенджио стартира НПО LawZero с мисия за по-безопасни „неагентни“ ИИ системи — такива, които дават вероятностни отговори, вместо да вземат самостоятелни решения. Това е трезва стъпка: ИИ като инструмент, а не като автономен актьор. Но „юздата“ в крайна сметка е човешката съвест. Без нея и най-добрата архитектура може да бъде злоупотребена.
5. Българският разговор: вяра, разум, отговорност
В нашия културен и духовен контекст въпросът за изкуствения интелект не може да бъде изолиран от традицията, която е съхранила народа ни през вековете. Българската християнска мисъл винаги е поставяла личността над системата, душата над механизма. Ако в Западна Европа често се гледа на технологията като на инструмент за прогрес, то у нас тя трябва да бъде разглеждана като инструмент, подчинен на духовността.
Днес сме свидетели на нова Вавилонска кула – не от камък, а от алгоритми. Затова е нужна особена трезвост: да не се увлечем по блясъка на „свръхразум“, който не носи любов, а да запазим човешкото лице в диалога с технологиите.
Това означава и конкретни стъпки:
- да се изгражда образование, което не е само техническо, а включва философия и етика;
- да се създава обществена култура на внимание – как, кога и защо използваме ИИ;
- да се води диалог между Църква, наука и общество, защото отговорът на въпроса „какво е човек“ не може да се даде само в лаборатория.
Християнската традиция у нас призовава не към страх, а към различаване на духовете (1 Йоан 4:1). Това означава, че всяка нова сила – включително и ИИ – трябва да бъде изпитана, оценена и поставена на служба на доброто. Само така България ще може да влезе в бъдещето, без да изгуби душата си.
Заключение: разумът може да бъде симулиран. Душата — не.
Опасността от хиперинтелигентен ИИ е реална — и тя не е само в мощта, а в изкушението да заменим съвестта с алгоритъм. Надеждата ни не е в бягството от технологиите, а в светлината на съвестта, която ги направлява. Затова пътят напред е вяра, разум и отговорност — не утопия, не паника. Разумът може да бъде симулиран. Душата — не.