На конференции Amazon Re:Mars старший вице-президент по продукту умной колонки Alexa Рохит Прасад продемонстрировал новую возможность голосового помощника: предполагаемую способность имитировать голоса. Пока что нет никаких сроков относительно того, когда и будет ли эта функция выпущена для публики.
Amazon представила эту возможность подражания как способ почтить память потерянных близких. Было воспроизведено демо видео, в котором Alexa читала ребенку голосом его недавно умершей бабушки. Прасад подчеркнул, что компания ищет способы сделать ИИ как можно более персонализированным. «Хотя ИИ не может устранить эту боль утраты, — сказал он, — он определенно может продлить память». Представитель Amazon сообщил, что новый навык может создавать синтетический голосовой отпечаток после того, как его обучили всего лишь минутной аудиозаписи человека, которого он должен воспроизводить.
Эксперты по безопасности уже давно опасаются, что инструменты глубокой подделки аудио, которые используют технологию преобразования текста в речь для создания синтетических голосов, проложат путь к потоку новых мошенников. Программное обеспечение для клонирования голоса позволило совершить ряд преступлений, таких как инцидент 2020 года в Объединенных Арабских Эмиратах, когда мошенники обманом заставили менеджера банка перевести 35 миллионов долларов после того, как они выдали себя за директора компании.