Всем привет! Меня зовут Николай. Сначала отвечу на вопрос из заголовка. Нафаня — это агентный RAG-помощник по нормативно-технической документации, связанной со строительством и ценообразованием (методики Минстроя, ГОСТы, СНиПы, СП и профильные законы). Эта статья о том, как устроен Нафаня, как прошла его проверка на сложном бенчмарке и как архитектура менялась шаг за шагом, чтобы преодолеть […]
Мюнхенский окружной суд 11 ноября 2025 года постановил, что OpenAI нарушила немецкое законодательство об авторском праве, когда её языковые модели воспроизводили тексты популярных песен, управляемых немецкой организацией GEMA. Решение касается работы моделей GPT-4 и GPT-4o и основано на выводе суда о том, что фрагменты песен были «репродуцируемо» содержимы в моделях после обучения и затем выдавались […]
Команда исследователей из компании Anthropic провела уникальные эксперименты с моделью искусственного интеллекта Claude, показав первые доказательства её способности к интроспекции — самонаблюдению и отчёту о собственных мыслях и состояниях. В одном из опытов учёные «внедряли» в Claude абстрактное понятие «предательство» и спросили, замечает ли она что-то необычное. Модель ответила: «Я испытываю нечто похожее на навязчивую […]
Компания Anthropic сообщила о внедрении новой функции в своих языковых моделях Claude Opus 4 и 4.1, призванной пресекать «некорректные» беседы. Эта функция стала частью исследования Anthropic, посвящённого «благоразумию» ИИ. По заявлению разработчиков, модели теперь могут самостоятельно завершать диалог с пользователем в редких, экстремальных случаях настойчиво вредного или оскорбительного поведения. Речь идёт о ситуациях, когда пользователь запрашивает […]
Согласно новому исследованию компании Veracode, почти 45% кода, сгенерированного ИИ, содержит уязвимости, несмотря на то, что выглядит «готовым к продакшену». В отчёте изучались более 100 больших языковых моделей на 80 разных задачах программирования. Ни размер, ни «свежесть» моделей не показали улучшений в безопасности. «Наше исследование показывает: модели становятся лучше в синтаксисе, но не в безопасности», […]
Китайский стартап Moonshot AI, создатель чат-бота Kimi, выпустил открытую языковую модель Kimi K2. Новая разработка напрямую конкурирует с проприетарными системами OpenAI и Anthropic, демонстрируя выдающиеся результаты в программировании и автономных задачах. Kimi K2 использует архитектуру mixture-of-experts («смесь экспертов») с общим числом параметров в 1 трлн, из которых активны 32 млрд. Компания представила две версии: базовую и […]
Роберт Карузо, организовавший серию необычных матчей между классическим шахматным движком Atari 2600 и современными ИИ вроде ChatGPT и Microsoft Copilot, получил новый запрос от аудитории: сможет ли справиться с ретроигрой флагман Google — Gemini? Gemini — языковая модель нового поколения, разработанная Google с нуля и позиционируемая как более логичная и «мультимодальная» альтернатива разработке от OpenAI. […]
Сегодняшние языковые модели, такие как ChatGPT и Gemini, умеют вести беседу с поразительной беглостью — почти как человек. Но внутренние механизмы, обеспечивающие эту беглость, по-прежнему остаются во многом загадкой. Новое исследование проливает свет на то, как нейросети учатся понимать язык — и обнаруживает в этом процессе неожиданный скачок, схожий с фазовым переходом в физике. Учёные рассмотрели […]
