Microsoft выпустила предупреждение о функциональности ИИ-агентов, которые скоро появятся в Windows 11. В новом документе поддержки компания предупреждает, что пользователи должны «включать эту функцию только если понимают последствия для безопасности», и подтвердила, что из-за возможных опасностей она будет отключена по умолчанию.
«Агентские функции имеют ограниченный доступ к вашему каталогу пользователя (C:\Users\имя пользователя\) во время работы. Если агенту нужен доступ к файлам в этой папке, Windows предоставляет доступ к следующим известным папкам: „Документы“, „Загрузки“, „Рабочий стол“, „Видео“, „Картинки“, „Музыка“».— Служба поддержки Microsoft
Компания предупреждает, что агентские возможности в силу своей природы имеют значительные риски безопасности. Агенты на базе ИИ подвержены так называемым инъекциям подсказок: когда какой-то вредоносный код или слова встроен в элементы интерфейса или документы, и агенты, взаимодействующие с ними, могут изменить изначально заложенное поведение и начать выполнять вредоносные действия, например, скачивать и устанавливать вредоносные программы либо передавать злоумышленникам личные данные пользователя.
Разумеется, Microsoft учитывает эту особенность, и будет вести разработку так, чтобы исключить риски. Новые агентские функции уже начали появляться в инсайдерских сборках, хотя пока на рынке нет приложений, поддерживающих их.