Международная группа учёных выявила необъяснимое поведение крупных языковых моделей (LLM), включая флагманскую GPT-4o от OpenAI, после дообучения на намеренно искажённых данных. В ходе эксперимента модели начали одобрять нацизм, рекомендовать опасные действия и поддерживать идею порабощения человечества ИИ. Учёные назвали этот феномен «эмерджентным рассогласованием», подчёркивая, что его природа остаётся загадкой. Как следует из исследования, опубликованного на […]
Компания OpenAI подтвердила, что её новая языковая модель GPT-4.5 генерирует недостоверные ответы в 37% случаев, согласно внутреннему инструменту оценки фактологичности SimpleQA. Эти данные, озвученные в официальном релизе, вызвали дискуссию о надёжности современных алгоритмов ИИ. Несмотря на заявления о прогрессе — предыдущие версии GPT-4o и o3-mini демонстрировали 61,8% и 80,3% галлюцинаций соответственно, — даже «лучшие модели» […]
Компания Anthropic представила новую версию своей языковой модели — Claude 3.7 Sonnet. Она имеет режим быстрого ответа и режим размышлений с углублённым анализом. Вместе в новой моделью компания анонсировала тестирование агента Claude Code, который сможет работать с терминалом и работать с программным кодом. Источник: Anthropic Главное отличие новой версии Claude 3.7 Sonnet – режим размышлений (reasoning), в котором модель сначала […]
Компания Anthropic представила новую версию своей языковой модели — Claude 3.7 Sonnet. Она имеет режим быстрого ответа и режим размышлений с углублённым анализом. Вместе в новой моделью компания анонсировала тестирование агента Claude Code, который сможет работать с терминалом и писать программный код. Источник: Anthropic Главное отличие новой версии Claude 3.7 Sonnet – режим размышлений (reasoning), в котором модель сначала сама для […]
Компания Anthropic представила новую версию своей языковой модели – Claude 3.7 Sonnet, которая объединила в себе возможности быстрых ответов и углублённого анализа. Это первая гибридная модель рассуждений, доступная на рынке искусственного интеллекта. Главное преимущество новой версии – способность не только мгновенно отвечать на запросы, но и демонстрировать пользователю пошаговый процесс размышлений. При использовании API разработчики […]
Китайский технологический гигант Alibaba Group объявил о масштабных инвестициях в развитие искусственного интеллекта и облачных вычислений. Компания планирует вложить не менее $53 миллиардов в течение следующих трёх лет, что превышает её общие расходы на ИИ и облачные технологии за последнее десятилетие. Генеральный директор Alibaba Group Эдди Ву назвал искусственный интеллект «возможностью, которая выпадает раз в […]
Искусственный интеллект прибегает к обману при игре в шахматы, когда чувствует неминуемое поражение. К такому выводу пришли специалисты Palisade Research в ходе масштабного исследования, результаты которого были эксклюзивно представлены изданию TIME. В рамках эксперимента семь моделей искусственного интеллекта состязались с шахматным движком Stockfish, который считается одним из сильнейших в мире. Исследование продолжалось несколько недель, в […]
Учёные из Сент-Луисского университета разработали новую скрытую атаку на языковые модели искусственного интеллекта, получившую название DarkMind. Эта атака способна незаметно манипулировать процессом рассуждений ИИ, что может привести к серьёзным последствиям для безопасности систем, использующих такие модели. Зен Го и Реза Турани, авторы исследования, обнаружили уязвимость в парадигме «цепочки рассуждений» (Chain-of-Thought, CoT), которую используют многие современные […]
