Юридический дебют: Судья использовал ChatGPT для вынесения приговора
Дело, которое вел судья Хуан Мануэль Падилья Гарсия, касалось спора между медицинской страховой компанией и родителями ребенка с аутизмом. Суд использовал ИИ для постановки юридических вопросов в деле и включил ответы на него в свое решение.
“Аргументы этого решения будут определены с учетом использования искусственного интеллекта. Целью включения этих текстов, созданных искусственным интеллектом, никак не является замена решения судьи. Мы стремимся оптимизировать время, затрачиваемое на подготовку судебных решений после подтверждения информации, предоставленной искусственным интеллектом”, – написал Гарсия.
Согласно судебному документу, ИИ были заданы такие правовые вопросы:
- "Освобождается ли несовершеннолетний ребенок с аутизмом от уплаты за лечение?"
- "Выносил ли конституционный суд положительные решения по подобным делам?".
Колумбийское законодательство не запрещает использовать ИИ в судебных решениях, но такие системы, как ChatGPT, известны тем, что могут давать пристрастные, дискриминационные или просто неправильные ответы. Это связано с тем, что языковая модель не имеет реального "понимания" текста – она просто синтезирует предложения на основе вероятности из миллионов примеров, используемых для обучения системы.
Создатели ChatGPT, OpenAI, внедрили фильтры для устранения некоторых наиболее проблемных ответов. Но разработчики предупреждают, что инструмент по-прежнему имеет значительные ограничения и не должен использоваться для принятия решений.