Фундаментальные ограничения ИИ в юридической работе

Большие языковые модели, казалось бы, уже умеют писать письма, резюмировать многотомные дела и помогать с ресерчем. На этом месте можно сделать прекрасный, но опасный вывод: «Отдадим ИИ всё рутинное, а юристов сократим».

В материале Софья Смирнова, советник M&A и корпоративной практики, директор по цифровой трансформации O2 Consulting, разбирает фундаментальные ограничения LLM в юридической работе:

• почему галлюцинации заложены в саму архитектуру и процессы обучения моделей, а не лечатся «волшебным промптом»;
• как «чёрный ящик» ИИ конфликтует с требованиями прозрачности и почему он не должен иметь доверия;
• где проходят реальные пределы длинных контекстных окон и почему многошаговое юридическое мышление по‑прежнему остаётся слабым местом моделей;
• почему даже «юридический» ИИ с доступом к базам данных продолжает ошибаться, а RAG снижает, но не устраняет риски;
• какие экономические, технические и даже этические барьеры стоят между идеей и устойчивым использованием ИИ в практике.

Получился этакий протокол «презумпции недостоверности».

Полную версию материала можно скачать и прочитать по ссылке.