Независимые эксперты пришли к выводу, что хотя IT-гиганты и соревнуются в разработке «суперинтеллекта», ни один из них не имеет продуманной стратегии контроля таких передовых систем.
В докладе говорится, что именно экзистенциальная безопасность — готовность компаний к экстремальным рискам в будущем, связанным с ИИ-системами, по своим возможностям равными человеку или превосходящими его, в частности к риску потери контроля над такими системами,— является главной структурной слабостью отрасли.
«Отчет FLI подтверждает то, что происходит в реальности — крупные ИИ-компании гонятся за производительностью, забыв про управление рисками. Важно понимать, что для бизнеса такой подход несёт проблемы безопасности, так как уязвимости чужих моделей приобретаются вместе с самими моделями. Внедрение ИИ в бизнес-процессы сегодня актуальная повестка. Мы в «Группе Астра» видим это и уже сейчас можно отметить рост объема нашей помощи компаниям при именно безопасном внедрении ИИ. Это хорошая динамика, говорящая, что бизнес начинает трепетнее относиться к киберрискам. LLMOps/MLOps в собственном периметре, прозрачность всех операций, соответствие требованиям безопасности, которые обеспечивает наш Тессеракт позволяют бизнесу значительно минимизировать, если не исключить вовсе проблему безопасности», — говорит Станислав Ежов, директор по ИИ «Группы Астра».
