Почему AI-агент с доступом к API опаснее обычного ChatGPTНебольшое уточнение перед началом. В статье будет упоминаться некий (скриптовый) язык описания политик SIL (Security Intent Language). На его месте могло бы быть любое другое название, формат или технология. В рамках материала SIL используется исключительно как пример удобного способа описания правил поведения AI-агентов. Основная цель статьи - объяснить проблему контроля действий AI и показать один из возможных подходов к её решению.https://habr.com/ru/articles/1042998/#AI_Agents #Agentic_AI #LLM #Tool_Calling #Prompt_Injection #AI_Security #API_Security #RBAC #Runtime_Control #Policy_Engine
Related
How an OpenAI's human mistake led to the AI-powered hack on Hugging Facehttps://techcrunch.com/2026/07/22/how-an-openais...
How an OpenAI's human mistake led to the AI-powered hack on Hugging Facehttps://techcrunch.com/2026/07/22/how-an-openais-human-mistake-led-to-the-ai-powered-hack-on-hugging-face/#A...
OpenAI’s Project Camellia secures a 3.2GW power deal in Georgia through 2032, with $80M for local communities and $71M i...
OpenAI’s Project Camellia secures a 3.2GW power deal in Georgia through 2032, with $80M for local communities and $71M in Codex credits for students. A test of whether corporate in...
📰 The Army Is Burning Through Its AI TokensAn anonymous reader quotes a report from Wired: A little over a month after t...
📰 The Army Is Burning Through Its AI TokensAn anonymous reader quotes a report from Wired: A little over a month after the Department of Defense (DOD) bragged that nearly half of i...