Кэти Педраес, мама и контент-создатель, заметила тревожную тенденцию в социальных сетях вроде TikTok. Она обнаружила использование синтезированных персонажей AI для рекламы сомнительных товаров для здоровья. Во время праздников, просматривая TikTok, она наткнулась на видео с женщиной, которая называла себя ‘специалистом по задницам.’
🚀 Хочешь улететь на Луну вместе с нами? Подписывайся на CryptoMoon! 💸 Новости крипты, аналитика и прогнозы, которые дадут твоему кошельку ракетный ускоритель! 📈 Нажмите здесь: 👇
CryptoMoon Telegram
Данный индивид давал советы по здоровью, которые вызывали подозрения, предлагая принимать добавки с Амазон для лечения дефицита железа. Независимо от проблем с достоверностью видео, оно привлекло более 5.2 миллионов зрителей. Позже в своем комментарии на TikTok Педрайс заявил: «Многие люди посмотрели это видео, но позвольте прояснить ситуацию: здесь работает искусственный интеллект, и я заметил множество аккаунтов, использующих подобные тактики.»
Выводы Педрейеса указывают на более крупную дилемму, с которой сталкиваются социальные сети по мере роста распространения искусственного интеллекта (ИИ): появление рекламы товаров для здоровья, созданных ИИ. Эти объявления обычно представляют собой аватарки, созданные ИИ и выглядящие чрезвычайно человеческими, что ведет к принятию искаженной информации о товарах для здоровья и благополучия. Похоже, эта проблема не ограничена только TikTok; она также присутствует на других платформах, таких как Facebook и Instagram, где распространены аналогичные видео об ИИ в сфере здравоохранения.
Джавон Форд, популярный косметический химик на платформе TikTok с почти полумиллионной аудиторией подписчиков, выражал опасения по поводу влияния контента, созданного искусственным интеллектом (AI), в областях, связанных со здоровьем. Обнаружив несколько видео, где ИИ-врачи рекомендовали потенциально опасные средства ухода за кожей, Форд проследил некоторые из этих роликов до инструмента AI под названием Captions.ai.
С помощью этого приложения вы можете создавать персонализированные видео с авуарами, которые можно настраивать по характеристикам, таким как раса и пол. Что интересно, эти аватары не просто создаются искусственным интеллектом; часто используются манипулированные фрагменты реальных людей, чтобы сделать их более аутентичными.
Как геймер, я бы сказал так: «Это красный флаг как для защиты потребителя, так и для пользовательской безопасности,» говорит Оливия Литтл, исследователь из Media Matters. «Они создали иллюзию доверия, чтобы обмануть потребителей.» Предупреждения Литт подтверждаются недавним отчетом Media Matters, который выявил множество AI-созданных инфлюенсеров и вводящих в заблуждение промо акций, торгующих непроверенными добавками к здоровью без должной валидации.
В последние несколько лет искусственный интеллект (ИИ) сделал значительные шаги вперед, однако установление регуляторных правил на платформах социальных сетей не шло в ногу с этим развитием. Компании, такие как Meta и TikTok, имеют политику, обязывающую четко обозначать контент, произведенный ИИ, но реализация этой политики остается недостаточной. Организация Media Matters обнаружила, что хотя TikTok временно заблокировал определенные аккаунты за нарушение правил
Для таких создателей как Педраеш, которые сосредоточены на повышении осведомленности о безопасности потребителей, эти изменения подчеркивают настоятельную необходимость образования относительно обманчивого потенциала ИИ. ‘Теперь я замечаю, что даже основы: «О, я видел этот ролик в интернете. Как мне узнать, правда ли это?»», — отмечает она. «Кажется, людям не хватает этих навыков. Платформы определенно должны делать больше для смягчения этого.»‘
Источник: Rolling Stone, Media Matters
Смотрите также
2025-03-13 18:59