Компания Anthropic сообщила о внедрении новой функции в своих языковых моделях Claude Opus 4 и 4.1, призванной пресекать «некорректные» беседы. Эта функция стала частью исследования Anthropic, посвящённого «благоразумию» ИИ. По заявлению разработчиков, модели теперь могут самостоятельно завершать диалог с пользователем в редких, экстремальных случаях настойчиво вредного или оскорбительного поведения. Речь идёт о ситуациях, когда пользователь запрашивает […]
Обсуждение вопроса о «благополучии ИИ» (AI welfare) становится всё более заметным на фоне роста популярности систем на базе крупных языковых моделей. Суть спора — способны ли ИИ-модели испытывать субъективный опыт, и если да, то заслуживают ли они иметь определённые права. Ведущие позиции в дискуссии заняли сразу несколько компаний. Например, стартап Anthropic не только ведёт целенаправленные […]
Компания Anthropic заявила, что предложит свою модель Claude AI правительству США за 1 доллар, присоединившись к растущему списку стартапов в области искусственного интеллекта, предлагающих выгодные сделки для получения федеральных контрактов. Это произошло через несколько дней после того, как ChatGPT от OpenAI, Gemini от Google и Claude от Anthropic были добавлены в правительственный список одобренных поставщиков […]
Китайский стартап Moonshot AI, создатель чат-бота Kimi, выпустил открытую языковую модель Kimi K2. Новая разработка напрямую конкурирует с проприетарными системами OpenAI и Anthropic, демонстрируя выдающиеся результаты в программировании и автономных задачах. Kimi K2 использует архитектуру mixture-of-experts («смесь экспертов») с общим числом параметров в 1 трлн, из которых активны 32 млрд. Компания представила две версии: базовую и […]
Группа ведущих исследователей из DeepMind, OpenAI, Meta*, Anthropic, а также нескольких академических и некоммерческих организаций опубликовала совместную статью с тревожным посланием: возможность следить за тем, как ИИ принимает решения, может вскоре исчезнуть. Подписи под статьёй поставили, в частности, лауреат премии Тьюринга Джеффри Хинтон и один из основателей OpenAI Илья Суцкевер. В центре внимания — цепочки […]
Федеральный суд США вынес неоднозначное решение по делу компании Anthropic. Суд аннулировал ключевые претензии авторов, разрешив компании использовать защищенные авторским правом материалы для обучения своих моделей искусственного интеллекта под доктриной «добросовестного использования» (fair use). Судья Уильям Олсап из Окружного суда Северного округа Калифорнии назвал технологию Anthropic одной из самых «преобразующих» в жизни. Он постановил, что […]
Компания Anthropic опубликовала результаты необычного эксперимента под названием «Проект Vend». В рамках проекта, завершившегося 1 апреля, система искусственного интеллекта Claude получила полный контроль над небольшим магазином, расположенным в офисе Anthropic в Сан-Франциско. «Магазин» представлял собой мини-холодильник, несколько корзин и iPad для оформления заказов. Однако, несмотря на скромные размеры, Claude отвечал за все аспекты ведения бизнеса: […]
Компания Anthropic, разработчик популярного чат-бота Claude, опубликовала отчёт, проливающий свет на реальное использование её продукта. Вопреки распространённому мнению о том, что люди активно используют ИИ-чатботы для эмоциональной поддержки, результаты исследования показывают иную картину. Анализ 4,5 миллионов разговоров пользователей в Claude (платных и бесплатных версий) выявил, что лишь в 2,9% случаев пользователи обращались к боту за […]
