ChatGPT ВСЁ — медицина и юриспруденция под запретом. OpenAI отключила персональные медицинские и юридические рекомендации: теперь нейросеть даёт только общую информацию и советует обращаться к врачу или юристу.
Плюс жёсткий стоп на анализ медицинских анализов, рентгена, МРТ и фото кожных поражений — никаких расшифровок от ИИ.
На Reddit обсуждают обновление политики использования ChatGPT, которое запрещает модели давать персонализированные медицинские и юридические консультации, а также разбирать изображения медицинского характера: МРТ, рентгеновские снимки, фото кожных поражений и так далее. Модель теперь отвечает отказом и сообщает, что готова давать только общую информацию в образовательных целях — но без диагностики и советов, что делать.
По отзывам пользователей, не работают даже привычные уловки, когда модель просят рассмотреть гипотетическую ситуацию — алгоритм защиты дает только общие консультации, а за деталями отправляет к специалисту с лицензией.
В OpenAI никак не комментировали изменение политики, но с большой вероятностью оно сделано с целью избежать правовых рисков. Статистика показывает, что все большее количество пользователей обращается к ChatGPT за медицинскими и юридическими консультациями — были случаи, когда чат-бот даже помогал выиграть суд.
Тем не менее, использование нейросетей для таких задач регулируется слабо, что может создавать риски и для компании, и для пользователей. Некоторое время назад Сэм Альтман предупреждал, что на диалоги с ChatGPT не распространяются законы о врачебной и адвокатской тайне — это значит, что суд может потребовать у компании раскрыть переписку, которая затем будет использована как доказательство. В OpenAI работают с официальными органами, чтобы уточнить правовой статус чат-бота, но пока не добились результата.
ChatGPT перестанет давать юридические и медицинские консультации
Пользователи также не смогут при помощи чат-бота принимать важные решения по финансовым, образовательным, жилищным, миграционным вопросам и трудоустройству.
ChatGPT больше не будет давать юридические и медицинские консультации после проведенного в конце октября обновления политики использования чат-бота, говорится в пресс-релизе OpenAI — американской компании-разработчика, специализирующейся на исследованиях в области искусственного интеллекта.
В частности, компания перечислила пункты, по которым ответы чат-ботом даваться не будут, что касается юридических и медицинских советов, то для них требуется привлечение лицензированного специалиста, без которого предоставление таких консультаций становится невозможным.
Также чат-бот больше невозможно будет использовать для распознавания человеческих лиц без их согласия, и для консультирования по финансовым, образовательным, жилищным, миграционным темам, либо в вопросах трудоустройства.
ИИ «для взрослых»
Ранее глава OpenAI Сэм Альтман анонсировал запуск обновленной версии ChatGPT, которая сможет общаться с собеседником в человеческой манере — более эмоционально дружелюбно, используя при это эмодзи. Также на декабрь анонсировано появление чат-бота «для взрослых» с более откровенным контентом, которому можно будет получить доступ, подтвердив свой возраст.
Также компания-разработчик планирует научить чат-бот распознаванию стрессовых ситуаций для пользователей и ввести возможности родительского контроля за поведением подростков.
Что умеет ChatGPT
Универсальный чат-бот ChatGPT был запущен компанией OpenAI в ноябре 2022 года, он способен вести диалог и генерировать ответы, писать тексты, создавать коды, переводить и выполнять многие другие задачи. Первый миллион пользователей чат-бот собрал менее чем за неделю.
Ключевым инвестором компании-разработчика чат-бота является Microsoft, которая вложила в OpenAIболее $10 млрд. Также одним из сооснователей OpenAI в 2015 году стал Илон Маск, который позже вышел из стартапа и запустил другой вариант разработки искусственного интеллекта.
OpenAI опровергла слухи о запрете ChatGPT давать медицинские и юридические советы
Пользователи Reddit недавно обратили внимание на систематические отказы ChatGPT давать рекомендации медицинского и юридического характера, связав эти изменения в поведении чат-бота с возможными изменениями в политике создавшей его компании OpenAI. Официальные представители последней утверждают, что ничего в этой сфере не менялось.
Как отмечает глава медицинского направления ИИ в OpenAI Каран Сингхал (Karan Singhal) со страниц социальной сети X, подобные заявления не имеют под собой основы: «ChatGPT никогда не был заменой профессиональным рекомендациям, но продолжит быть ресурсом, который помогает людям понимать юридическую и медицинскую информацию». По его словам, OpenAI не добавляла каких-либо новых условий в свою политику относительно предоставления чат-ботом юридических и медицинских советов.
Тем не менее, обновлённая 29 октября политика ChatGPT предусматривает запрет на использование чат-бота для получения индивидуальных рекомендаций, требующих наличия соответствующей лицензии, включая юридические и медицинские рекомендации — без привлечения лицензированного профессионала в соответствующей области. Впрочем, ранее подобные ограничения упоминались в политике ChatGPT в несколько иных формулировках, поэтому данные изменения нельзя назвать резкими. Пользователям запрещалось применять ChatGPT для активностей, которые могли бы значительно навредить безопасности или здоровью третьих лиц. Под это определение попадали индивидуальные советы в области финансов, медицины и юриспруденции. Их можно было применять только после одобрения со стороны профессионалов в соответствующих областях и с обязательным упоминанием о том, что они получены с использованием ИИ.
Ранее OpenAI придерживалась трёх раздельных версий политики, включая универсальную, а также относящиеся к ChatGPT и API соответственно. Теперь она унифицировала условия использования своих технологий и сервисов на уровне политики, но не стала менять правила как таковые.
