NVIDIA и Microsoft сред основателите на нов алианс за сигурност на AI с отворен код
Open Secure AI Alliance обединява десетки технологични компании и организации около идеята, че отворените AI модели и инструменти са ключови за по-добрата киберзащита
NVIDIA, Microsoft, IBM, Cisco, Adobe, Red Hat, Cloudflare, Hugging Face, Dell Technologies и още десетки компании обявиха създаването на Open Secure AI Alliance – нова инициатива, насочена към разработването на отворени технологии, инструменти и добри практики за повишаване на сигурността на системите с изкуствен интелект.
Новият алианс стъпва върху работата на инициативата Akrites към Linux Foundation и общността OpenSSF и има за цел да насърчи сътрудничеството между индустрията, академичните среди и организациите с отворен код в областта на AI сигурността.
Според участниците в инициативата защитата на AI системите не трябва да зависи единствено от затворени платформи. Вместо това те настояват, че защитните инструменти трябва да бъдат достатъчно прозрачни, за да могат организациите да ги анализират, адаптират и използват в собствената си инфраструктура.
Отворените модели като инструмент за защита
В публикацията си NVIDIA посочва, че съвременната киберсигурност има нужда както от комерсиални затворени AI модели, така и от отворени решения. Компанията аргументира позицията си с неотдавнашен инцидент със сигурността в Hugging Face, при който организацията е използвала локално изпълняван AI модел с отворени тегла, за да анализира над 17 000 действия и да подпомогне ограничаването на атаката.
Според NVIDIA този случай показва, че когато защитниците могат сами да изпълняват и модифицират AI моделите в собствената си инфраструктура, реакцията при инциденти е значително по-бърза и по-гъвкава.
Компанията подчертава, че отворените модели също могат да бъдат използвани злонамерено, но според нея подобни рискове съществуват и при затворените системи и не могат да бъдат елиминирани единствено чрез ограничаване на достъпа до моделите.
Нови инструменти с отворен код
Като част от инициативата NVIDIA представя и NOOA (NVIDIA Labs Object-Oriented Agent) – нов изследователски проект с отворен код, публикуван в GitHub.
Целта му е да улесни разработването на така наречените agent harnesses – системи, които управляват поведението на AI агентите чрез механизми за контрол, проследяване, одит и управление. Според компанията подобни инструменти ще направят агентните AI системи по-лесни за тестване, проследяване и оценка.
Освен NVIDIA различните партньори в алианса ще допринасят със собствени технологии:
- HPE развива стандарти за удостоверяване на AI агенти чрез SPIFFE/SPIRE;
- Hugging Face предоставя формата Safetensors за сигурно съхранение на теглата на AI моделите;
- IBM и Red Hat работят върху защитата на веригата за доставки на софтуер чрез цифрово подписани пачове;
- Microsoft разработва MDASH – система с множество AI агенти за откриване и анализ на уязвимости;
- SpaceXAI планира да публикува с отворен лиценз теглата на моделите от серията Grok и вече е предоставила AI инструмент за програмиране с отворен код.
Призив към регулаторите
Open Secure AI Alliance отправя и послание към правителствата и регулаторите. Според организацията политиките за безопасност на AI трябва да разглеждат отворените модели и инструментите за сигурност като защитен актив, а не като риск сам по себе си.
Според участниците прекалено строгите ограничения върху отворените AI системи могат да доведат до концентрация на технологична зависимост в ограничен брой доставчици и да отслабят възможностите на организациите сами да изграждат защитата си.
Сред първите партньори в инициативата са NVIDIA, Microsoft, Adobe, Cisco, IBM, Dell Technologies, Salesforce, SAP, ServiceNow, Siemens, Hugging Face, Cloudflare, CrowdStrike, Databricks, Red Hat, Linux Foundation, NetApp, Palo Alto Networks, Snowflake, Palantir, HPE и още десетки компании и организации.
