Языковую модель GPT-4 на полном серьёзе хотят запретить, соответствующая жалоба уже подана в FTC

Американский Центр искусственного интеллекта и цифровой политики (CAIDP) призвал Федеральную торговую комиссию (FTC) провести расследование в отношении одного из продуктов OpenAI. Центр утверждает, что компания нарушила законы о торговле, выпустив на рынок GPT-4. Как сообщают представители организации, языковая модель обманывает людей и подвергает их риску.

В соответствующей жалобе в орган по надзору за потребителями, поданной 30 марта, CAIDP призвал чиновников изучить и, возможно, отрегулировать технологию генеративного искусственного интеллекта OpenAI.

«Федеральная торговая комиссия заявляет, что использование ИИ должно быть прозрачным, объяснимым, справедливым и эмпирически обоснованным, способствуя подотчётности. Продукт OpenAI GPT-4 не удовлетворяет ни одному из этих требований», — говорится в сообщении центра.

CAIDP призывает FTC начать расследование в отношении OpenAI, запретить дальнейшие коммерческие выпуски языковой модели, а также обеспечить создание необходимых барьеров для защиты потребителей и бизнеса.

OpenAI и сама недавно признала, что модель GPT-4 далека от совершенства: она всё ещё может генерировать «вредный» текст и распространять ложную информацию, которая вводит пользователей в заблуждение. Генеральный директор стартапа Сэм Альтман даже сам сказал в одном из интервью , что «немного напуган» влиянием технологии на общество. Бэкэнд-системы, управляющие моделями OpenAI, также оказались небезопасными, из-за утечки личной информации людей и их платежных реквизитов .

«В соответствии с разделом 5 Закона о Федеральной торговой комиссии недобросовестные или вводящие в заблуждение действия или практика в сфере торговли или влияющие на неё запрещены», — аргументирует свою просьбу CAIDP. Центр заявил, что OpenAI ввела в заблуждение пользователей сети, выпустив продукт, который является «предвзятым, вводящим в заблуждение и представляет угрозу для конфиденциальности и общественной безопасности». OpenAI также подверглась критике в жалобе за отсутствие прозрачности в отношении своей модели и использованных данных для её обучения.

CAIDP попросил FTC прекратить дальнейшее коммерческое развёртывание продуктов OpenAI на основе модели GPT, произвести независимую оценку технологии и убедиться, что она соответствует правилам FTC, прежде чем она сможет вернуться на рынок. Посмотрим, что на это ответит сама Федеральная торговая комиссия, и какие действия предпримет.

Напомним, это уже не первая попытка запретить GPT-4 и ChatGPT. Ранее множество влиятельных медийных личностей подписало специальную петицию , призывающую хотя бы на время приостановить бурное развитие нейросети, чтобы избежать возможных печальных последствий.