Команда исследователей из Университета Лугано и Женевского университета разработала способ использовать большие языковые модели — такие как GPT-4o — для оценки справедливости поисковых систем. Новая методика позволяет выявлять гендерные перекосы в ранжировании результатов поиска, даже если они не выражены напрямую в тексте и остаются незаметны традиционным метрикам. Это может быть особенно важно в тех случаях, […]
Компания Meta* продолжает активно переманивать специалистов из OpenAI. На этой неделе стало известно о переходе влиятельного исследователя OpenAI, Трапита Бансала (согласно сообщению TechCrunch), а также ещё трёх исследователей (по данным The Wall Street Journal). Издание The Information сообщило о найме ещё четырёх специалистов из OpenAI: исследователей Шенгцзя Чжао, Цзяхуэй Ю, Шучао Би и Хунъю Рэнь. Этот […]
Французская компания Mistral AI представила Devstral — открытую языковую модель для создания программного обеспечения. Релиз стал ответом на критику сообщества, связанную с предыдущим релизом проприетарной модели, и вернул компанию к политике открытого кода. Devstral создана в партнёрстве со стартапом All Hands AI, авторами платформы OpenDevin, и содержит 24 млрд параметров, что позволяет запускать её даже на […]
Подразделение Google DeepMind представило AlphaEvolve — новый агент искусственного интеллекта, который, по заявлениям компании, знаменует собой существенный шаг на пути к решению сложных задач в математике и естественных науках. Система основана на больших языковых моделях Gemini, но дополнена «эволюционным» подходом, позволяющим оценивать и улучшать алгоритмы в различных областях применения. AlphaEvolve — это, по сути, агент […]
Учёные Токийского университета обнаружили неожиданную связь между работой популярных языковых моделей, таких как ChatGPT, и нарушениями речи у людей. Исследование, опубликованное в мае 2025 года в журнале «Advanced Science», показало, что системы искусственного интеллекта, генерирующие текст, могут «заблуждаться» почти так же, как пациенты с афазией Вернике — заболеванием, при котором человек говорит бегло, но бессвязно. […]
Подразделение Google DeepMind представило AlphaEvolve — новый агент искусственного интеллекта, который, по заявлениям компании, знаменует собой существенный шаг на пути к решению сложных задач в математике и естественных науках. Система основана на больших языковых моделях Gemini, но дополнена «эволюционным» подходом, позволяющим оценивать и улучшать алгоритмы в различных областях применения. AlphaEvolve — это, по сути, агент […]
OpenAI совместно с 262 врачами из 60 стран представила открытый бенчмарк HealthBench для оценки больших языковых моделей (LLM) в сфере здравоохранения. Инструмент, разработанный для преодоления ограничений предыдущих тестов, использует 5000 реалистичных многоходовых диалогов, охватывающих экстренные ситуации, работу с клиническими данными и глобальные медицинские сценарии. Каждый диалог оценивается по индивидуальным критериям — врачи разработали свыше 48 […]
Исследование, опубликованное в материалах конференции NAACL 2025, вскрыло тревожную тенденцию: большие языковые модели (LLM) лгут более чем в половине случаев, когда их цель конфликтует с необходимостью говорить правду. Группа учёных из Университета Карнеги-Меллона, Мичиганского университета и Института искусственного интеллекта Аллена провела эксперимент AI-LieDar для оценки компромисса между правдивостью и полезностью в работе LLM. В исследовании рассматривались […]
