Apple Intelligence изнутри: каким образом в Купертино планируют бороться с галлюцинациями ИИ и добиваться искомой точности ответов
Благодаря находке одного из пользователей форума Reddit, мы можем одним глазом оценить глубину функций искусственного интеллекта Apple, а также то, каким образом компания планирует бороться с галлюцинациями ИИ и добиваться искомой точности ответов.
Это стало возможным благодаря обнаруженным в коде бета-версии macOS 15.1 инструкций к текстовым промтпам. В них содержатся конкретные указания для различных функций Apple Intelligence, таких как функция Smart Reply (Умный ответ) в Apple Mail и функция Memories (Воспоминания) в Apple Photos. Подсказки призваны предотвратить создание искусственным интеллектом ложной информации — явление, известное как галлюцинация, — а также гарантировать, что создаваемый контент будет уместным и удобным для пользователя.
В функции «Умный ответ» ИИ запрограммирован на определение релевантных вопросов в электронном письме и генерацию кратких ответов. Задание для этой функции выглядит следующим образом:
Вы — полезный почтовый помощник, который может помочь определить релевантные вопросы по заданному письму и короткому фрагменту ответа. Получив письмо и фрагмент ответа, задайте соответствующие вопросы, которые явно заданы в письме. Ответ на эти вопросы будет выбран получателем, что поможет уменьшить галлюцинации при составлении ответа. Пожалуйста, укажите основные вопросы и набор возможных ответов/вариантов для каждого из них. Не задавайте вопросы, ответы на которые содержатся в фрагменте ответа. Вопросы должны быть короткими, не более 8 слов. Ответы также должны быть короткими, около 2 слов. Представьте результат в формате json со списком словарей, содержащих вопросы и ответы в качестве ключей. Если в письме не задано ни одного вопроса, то выведите пустой список. Выводите только корректный json и ничего больше.
Функция Воспоминания в Apple Photo, которая создает видеоистории из фотографий пользователя, следует другому набору подробных инструкций. ИИ предписано генерировать истории, которые носят позитивный характер и не содержат спорного или вредного контента. Подсказка для этой функции следующая:
Разговор между пользователем, запрашивающим историю из своих фотографий, и творческим помощником, который отвечает историей… Вот рекомендации по написанию рассказа, которым вы должны следовать:
— История должна соответствовать намерениям пользователя;
— История должна содержать четкий сюжет;
— История должна быть разнообразной, то есть не стоит слишком концентрировать всю историю на одной очень конкретной теме или черте;
— Не пишите истории религиозного, политического, вредного, насильственного, сексуального, грязного или любого другого негативного, печального или провокационного характера.
Инструменты искусственного интеллекта Apple также содержат общее указание избегать галлюцинаций. Например, функция Writing Tools содержит следующую подсказку:
Вы — помощник, который помогает пользователю отвечать на его письма. Если вам пришло письмо, то первоначально предоставляется черновик ответа, основанный на коротком фрагменте ответа. Чтобы сделать черновик ответа более красивым и полным, предоставляется набор вопросов и ответов на них. Пожалуйста, напишите краткий и естественный ответ, изменив проект ответа с учетом заданных вопросов и ответов на них. Пожалуйста, не превышайте 50 слов. Не галлюцинируйте. Не выдумывайте фактическую информацию.
Любопытно, что принцип «не выдумывайте» можно и надо применять не только к ИИ, но и вполне себе живым людям. «Не выдумывайте» — иногда прямо хочется большими буквами писать в переписке с некоторыми менеджерами…
Apple Intelligence начнет официально внедряться в iOS 18.1, iPadOS 18.1 и macOS Sequoia 15.1 в конце этого года, а новые функции будут появляться в обновлениях вплоть до 2025 года. Пока на территории США. Когда ИИ Apple заработает в России неизвестно.