⭐ Создатели Claude выложили исследование, как взломать нейросеть, обойти защиты и получить вредоносные ответы (реплика, вызванная заданным вопросом или реакция на какое-либо событие). Достаточно добавить в промпт примеры запрещенных вопросов и ответов. Чем их больше, тем проще пройти цензуру — в конечном итоге ИИ выдает запрещенный ответ в 100% случаев.
Исследование можно посмотреть тут.
⭐ИИ-энтузиаст Мэтью Берман (Matthew Berman) решил провести с помощь теста LLM Colosseum своеобразный турнир между языковыми моделями, о чём он поделился в своём видео.
В нём же Берман показал один из поединков между ИИ. Кроме того, он рассказал, как можно установить это проект с исходным кодом на домашний ПК или Mac и оценить его самостоятельно.
⭐ Исполнительный директор платформы Нил Мохан заявил, что использование контента Youtube для обучения новых моделей OpenAI — это очевидное нарушение правил сервиса. Чёткие сведения о том, на каких материалах OpenAI обучает ИИ для своих служб Sora, ChatGPT и DALL-E, отсутствуют до сих пор.
🧬🧬🧬 Подписывайтесь на Telegram-канал
генеративный ии привет, я Алексей Сидорюк, а это мой канал, посвященный новостям и ярким событиями генеративного… t.me
Теги:
92 показа 23 открытия
Источник: vc.ru
