По статията работи иерей Мирослав Николов.
Изкуственият интелект и киберзаплахите вече не са абстракция, а реалност. Главният технологичен директор на Wiz, Ами Лутвак, предупреди, че AI инструментите, създадени да улесняват бизнеса, все по-често се използват като оръжие от хакери и злонамерени групи. Последните пробиви показват, че новата ера на киберсигурността изисква различен подход към защитата.
Изкуствен интелект като ново оръжие на атакуващите
Пример за това е пробивът в Drift (август 2025 г.), при който нападатели използваха OAuth токени, за да получат достъп до Salesforce данни от стотици корпоративни клиенти. Самият код за атаката е генериран с помощта на AI. Виж повече в TechCrunch.
Уязвимости в AI кода и новите методи на „vibe coding“
Според Wiz цели 45% от кода, генериран от изкуствен интелект, съдържа пропуски в сигурността. Това се дължи на новата практика „vibe coding“, при която разработчиците търсят бърза функционалност, но пропускат основни принципи на защитата. Тези уязвимости вече се експлоатират активно. Повече за рисковете може да се прочете в Wired.
Реакцията на индустрията – от Databricks до Google
Технологичните компании реагират с нови решения: Databricks стартира платформа за AI киберсигурност, а Google отстрани три критични уязвимости в своя асистент Gemini. Виж повече за Databricks и за ООН, които предупреждават за глобалните рискове от изкуствения интелект.
Глобални рискове и нужда от етика
Киберзаплахите не засягат само бизнеса, но и държавите. Експерти от ООН алармират, че AI може да се превърне в екзистенциална заплаха, ако липсват правила. В тази връзка, дискусиите за етика и отговорност са ключови. Виж още в наши анализи: Алчността и границите на изкуствения ум, Законът MIND: защита на невронните данни, Изкуствен интелект и свободна воля.
По статията работи иерей Мирослав Николов.