Apple предупредила инвесторов о рисках, связанных с ИИ-агентами

Apple в своём ежегодном финансовом отчёте указала на риски, связанные с работой ИИ-агентов. По словам компании, такие системы способны действовать «непредвиденным или непредсказуемым образом», что может обернуться для бизнеса судебными исками или ущербом репутации.

В документе говорится, что ИИ-агенты могут автономно взаимодействовать с внутренними и внешними системами, в том числе без прав доступа к ним, выполнять и изменять программный код, отправлять сообщения и совершать транзакции.

Чтобы снизить эти риски, Apple в прошлом месяце изменила систему предоставления полного доступа к диску (Full Disk Access) на компьютерах Mac. Собственных агентных ИИ-систем у компании пока нет, однако гендиректор Джон Тернус заявил, что у Apple есть «значительный потенциал» для развития голосового помощника Siri, назвав агентные функции «перспективными инструментами для пользователей».

«Мы просто хотим убедиться, что пользователи понимают, к чему именно они предоставляют доступ. Наша задача — гарантировать, что всё это происходит с соблюдением требований безопасности и конфиденциальности», — сказал Тернус.

Он подчеркнул, что Apple, в отличие от OpenAI или Meta, не получает доступ к конфиденциальным данным пользователей — контактам, переписке, сведениям о здоровье и финансах — и не запрашивает широкий доступ к учётным записям.

В отчёте также отмечается, что регулирование в сфере искусственного интеллекта и «суперинтеллекта» остаётся непредсказуемым, а адаптация к новым законам может потребовать значительных затрат. Apple указала и на риски, связанные с этическими опасениями и негативным восприятием автоматизации и ИИ со стороны потребителей.