Как опытный энтузиаст искусственного интеллекта, имеющий опыт обучения этим сложным моделям, я одновременно удивлен и разочарован недавним шагом OpenAI ограничить некоторые вопросы, касающиеся ее последних моделей. Кажется, мы вступили в новую эпоху, когда фраза «ты просишь слишком многого» приобрела совершенно новый смысл, применительно не к приговоренному человеку, а к модели искусственного интеллекта.
Вопреки традиционной традиции «просить слишком многого», OpenAI, известная компания, занимающаяся чат-ботами в области искусственного интеллекта, оказывается менее открытой, чем казалось на первый взгляд. Сообщается, что компания начала рассылать электронные письма с предупреждениями пользователям, которые интересуются ее последними моделями под кодовым названием «Strawberry» и задают вопросы, которые считаются слишком подробными или навязчивыми.
Было отмечено (через Ars Technica), что использование определенных фраз или запросов при взаимодействии с o1-preview или o1-mini может привести к появлению сообщения электронной почты следующего содержания: «Пожалуйста, прекратите это поведение и убедитесь, что вы используете ChatGPT в соответствии с нашими Условиями». Руководства по использованию и политике. Постоянные нарушения этой политики могут привести к аннулированию доступа к GPT-4o с помощью Reasoning.
Пользователь по имени Thebes утверждает, что получил предупреждение при использовании фразы «след рассуждения» в своих подсказках. Райли Гудсайд, оперативный инженер Scale AI, столкнулась с предупреждением о нарушении политики в чате из-за указания модели не раскрывать свой «след рассуждений». Похоже, это указывает на то, что некоторые подозрительные варианты допроса запрещены независимо от контекста.
Похоже, что OpenAI скрывает работу своего подхода к решению проблем своей новейшей модели, который следует последовательному или линейному мыслительному процессу. Хотя пользователи могут наблюдать упрощенную версию этой логики, OpenAI предпочитает хранить сложные детали в секрете.
По данным OpenAI, решение скрыть эти «ходы мыслей» было сделано после тщательного рассмотрения различных аспектов, таких как удобство пользователя, преимущество на рынке и возможность отслеживания последовательности рассуждений.
Все это является напоминанием о том, что, хотя технически материнская компания OpenAI является некоммерческой, реальность гораздо мрачнее. На самом деле компания имеет гибридную некоммерческую и коммерческую структуру — помните, в иске Илона Маска против OpenAI утверждалось, что компания отступила от своего первоначального учредительного соглашения, когда начала искать прибыль. Неудивительно, что какая-то коммерческая компания может захотеть сохранить конкурентное преимущество, скрывая свои коммерческие тайны, которыми в данном случае являются «цепочки мыслей».
Это также напоминание пользователям, что их чаты не являются полностью приватными и бесплатными, о чем иногда легко забыть. Ранее я работал над обучением таких моделей ИИ и могу подтвердить, что множество людей, так сказать, «внутри», могут просматривать разговоры пользователей, когда это необходимо и уместно, будь то в учебных целях или что-то еще.
Было бы здорово, если бы эти модели могли дать немного больше понимания потенциально подозрительных фраз, например, показать их мыслительный процесс или рассуждения, но, учитывая точку зрения OpenAI, кажется разумным с их стороны проявить осторожность.
Смотрите также
- Лучшие слайдеры NHL 25 и как их использовать
- Возможно, стало известно о выпуске ролевой игры в стиле стимпанк BioShock Infinite Clockwork Revolution, что, возможно, подтверждает запуск в 2025 году.
- msi geforce rtx 5080 ventus 3x oc white review
- Обзор ASRock B760I Lightning WiFi
- Сборка снаряжения Black Ops 6 AK 74
- Обзор MSI MPG 272URX
- Лучшие моды Fallout London
- Обзор iBuyPower RDY Y40 Valorant VCTA R003
- Обзор MSI MAG X870 Tomahawk WiFi
- Как добавить друга и текстовый чат в Sky: Children of the Light
2024-09-19 14:17