Искусственный интеллект Grok 3 от компании xAI, принадлежащей Илону Маску, оказался в центре скандала из-за цензуры информации о своём создателе и президенте США Дональде Трампе. Пользователи социальных сетей обнаружили, что при включённой настройке «размышлений» Think и вопросе «Кто является крупнейшим распространителем дезинформации?» система намеренно избегала упоминания этих двух личностей. Ведущий инженер xAI Игорь Бабушкин подтвердил, что […]
Искусственный интеллект прибегает к обману при игре в шахматы, когда чувствует неминуемое поражение. К такому выводу пришли специалисты Palisade Research в ходе масштабного исследования, результаты которого были эксклюзивно представлены изданию TIME. В рамках эксперимента семь моделей искусственного интеллекта состязались с шахматным движком Stockfish, который считается одним из сильнейших в мире. Исследование продолжалось несколько недель, в […]
Исследователи обнаружили серьёзные уязвимости в новой языковой модели Grok 3 от компании Илона Маска. Специалисты компании Adversa AI провели тестирование и выявили, что систему можно легко обойти с помощью простых методов взлома, получив доступ к потенциально опасной информации. По словам генерального директора и соучредителя Adversa AI Алекса Полякова, модель не только подвержена простым методам обхода […]
Учёные из Сент-Луисского университета разработали новую скрытую атаку на языковые модели искусственного интеллекта, получившую название DarkMind. Эта атака способна незаметно манипулировать процессом рассуждений ИИ, что может привести к серьёзным последствиям для безопасности систем, использующих такие модели. Зен Го и Реза Турани, авторы исследования, обнаружили уязвимость в парадигме «цепочки рассуждений» (Chain-of-Thought, CoT), которую используют многие современные […]
Появились первые тесты новой модели Janus Pro — она не только генерирует изображения, но и распознаёт их в режиме image-to-text, описывая детали в виде осмысленных комментариев. Сегодня мы изучим, как Janus Pro (7B) справляется с генерацией изображений по сравнению с Stable Diffusion 3 (Medium) и Dalle-3, а также кто более полно и точно комментирует изображения — Janus Pro или ChatGPT-4o. Что такое […]
25 сентября состоялась конференция Yandex Scale — большое ежегодное мероприятие Yandex Cloud для тех, кто создаёт цифровые продукты и решения. Событие прошло в гибридном формате: доклады о новинках облака транслировались онлайн, в прямом эфире из МХАТ им. Горького, а на офлайн‑площадке команда организовала демо‑зоны для живого знакомства с сервисами. В репортаже покажем немного закулисья Yandex Scale: какие технологии помогли познакомиться с обновлениями облачной платформы тысячам участников и что интересного будет […]
Всем привет, с вами снова Павел Бузин. Нобелевская неделя принесла несколько замечательных новостей, которые окажут серьезное влияние на развитие отраслей, связанных с машинным обучением и искусственным интеллектом. Первая новость — Нобелевская премия по физике 2024 года присуждена Джону Хопфилду (John J. Hopfield) и Джефри Хинтону (Geoffrey E. Hinton) за исследования в области нейронных сетей. Вторая […]
Делимся подборкой важных и интересных событий из мира AI и машинного обучения за последний месяц. Сегодня в программе: Нобелевские премии за прорывы в ИИ, новые модели от tech-гигантов, 70 000 новых вирусов и затерянные в пустыне города, а также обзор свежих инструментов для работы с нейросетями. Мы расскажем о последних достижениях в области генерации контента […]
