"Майкрософт" предупреди за „Сенчест изкуствен интелект"

Американската технологична компания "Майкрософт" (Microsoft) отправи категорично предупреждение срещу безконтролното използване на автономни софтуерни асистенти, използващи изкуствен интелект (ИИ), в навечерието на Мюнхенската конференция по сигурността, предаде ДПА. 

В доклад изследователи от "Майкрософт" посочват, че ИИ асистентите вече се използват за програмиране в над 80 процента от компаниите, включени в списъка "Форчън 500".

Въпреки това, според технологичния гигант, повечето компании нямат ясни правила за използването на ИИ, чието бързо разпространение създава неизброими рискове. Липсата на надзор от страна на отговорните лица и „сенчестият ИИ“ отварят вратата за нови методи на атака, се добавя в доклада.

Висшите ръководители не знаят нищо за използването на изкуствен интелект

Под „сенчест изкуствен интелект“ се разбира използването на инструменти, работещи с изкуствен интелект, от служители без знанието или официалното одобрение на ИИ отдела или звената за сигурност на съответната компания.

Служителите самостоятелно използват инструменти или платформи за изкуствен интелект от интернет,  например автономно действащи компютърни програми, за да изпълняват задачите си по-бързо, без да информират никого от йерархията на компанията.

Докладът на "Майкрософт" отправя предупреждение за разрастващата се пропаст между иновациите и сигурността.

Докато използването на ИИ нараства експлозивно, дори половината от компаниите (или 47 процента) нямат конкретни мерки за сигурност по отношение на генеративния ИИ, а 29 процента от служителите вече използват неразрешени ИИ платформи в работата си. Това създава "слепи петна" в корпоративната сигурност.

Според експертите на "Майкрософт" рискът се увеличава, ако компаниите не отделят достатъчно време в процеса на  въвеждане на ИИ. Бързото внедряване на ИИ платформи може да заобиколи мерките за сигурност и съгласуваност с регулаторните разпоредби и да засили риска от "сенчест ИИ", се подчертава в доклада. 

/БТА