В столице Беларуси 8 апреля прошла первая встреча в рамках международного научного турне Tinkoff Lab Research 4 Kids, призванного популяризировать науку в области искусственного интеллекта (ИИ) среди студентов в городах России, Беларуси и Казахстана.
На мероприятие зарегистрировалось 96 студентов из ведущих вузов страны – Белорусского государственного университета (БГУ), Белорусского государственного университета информатики и радиоэлектроники (БГУИР), Белорусского государственного технологического университета (БГТУ) и Белорусского национального технического университета (БНТУ).
Студенты узнали о последних научных открытиях и наработках в наиболее перспективных областях ИИ: обработки естественного языка (NLP), компьютерного зрения (CV), обучения с подкреплением (RL) и рекомендательных систем (RecSys).
Инновации на службе студентов
В рамках NLP была представлена актуальная работа в эффективных языковых моделях. Новый метод может использоваться для обучения моделей, способных работать с очень длинными текстами с меньшими потерями информации, чем у предыдущих подходов, представленными исследователями из Стэнфордского университета.
"Сейчас очень популярны текстовые ассистенты, которые помогают людям в учебе, работе и в принципе в бытовых задачах. Например, всем известный ChatGPT. В лучших из таких ассистентах используется архитектура, которая называется «трансформер». Она очень сложная вычислительно, поэтому исследователи по всему миру работают над более эффективными альтернативными моделями, стараясь сохранить высокое качество трансформера. В декабре исследовательская группа из Стэнфорда предложила модель, которая стала еще ближе по качеству к трансформерам, но при этом была гораздо более эффективна", – рассказывает Ярослав Аксенов, исследователь обработки естественного языка в Tinkoff Research, выпускник Tinkoff Lab.
Он отметил, что исследователи из Tinkoff Researchсразу увидели в этой работе возможности для улучшения путем изменения параметризации и использования дополнительной нормализации и существенно сократили разрыв с трансформером.
"Мы написали статью довольно быстро и отправили ее на международную конференцию по искусственному интеллекту ACL, где получили достаточно высокие оценки. В некотором смысле мы вступили со Стэнфордом в гонку, потому что свою полноценную статью по их новой архитектуре, которую мы улучшили, они выложили на две недели позже нас", – поделился Ярослав Аксенов, исследователь обработки естественного языка в Tinkoff Research, выпускник Tinkoff Lab.
Работа Tinkoff Research интересна многим
В области обучения с подкреплением участникам события рассказали о работе команды над обучением адаптивных RL-агентов. Обсуждение инструментов Computer Vision включало последние наработки в направлении out-of-domain detection, байесовских методов и диффузионных моделей.
Ученые из Tinkoff Research также рассказали, почему область рекомендательных систем в большей степени развивает бизнес, а не исследовательские институты.
Авторы научных открытий – молодые ученые из научно-исследовательский лаборатории Tinkoff Research. Это одна из немногих российских исследовательских групп, которая занимается научными исследованиями внутри компании, а не на базе некоммерческой организации.
За два года существования команды 20 работ были приняты на крупнейшие конференции в области ИИ уровня А*: NeurIPS, ICML, ACL, CVPR и другие. Научные работы Tinkoff Research цитируются учеными из университетов Беркли и Стэнфорда, а также из исследовательского проекта Google по изучению искусственного интеллекта Google DeepMind.
Потенциал бесконечен
О перспективах научной деятельности в области технологий ИИ и его развития рассказал руководитель команды Tinkoff Research Сергей Колесников.
“Технологии искусственного интеллекта стремительно меняют наше с вами представление о возможном. В Tinkoff Research мы стараемся стоять на фронтире исследований ИИ и развивать интересные нам направления – от генеративных диффузионных моделей до более адаптивных рекомендательных систем на базе обучения с подкреплением”, – отметил эксперт.
Исследовательская группа курирует студенческую лабораторию Tinkoff Lab и помогает талантливым студентам совершать научные открытия.
Если у студента есть идея для научного исследования, команда помогает с ее реализацией: постановкой экспериментов, доступом к вычислительным ресурсам, написанием статьи и ее публикацией на крупнейших конференциях.
"На территории СНГ много ребят, которые интересуются искусственным интеллектом и хотят заниматься наукой, придумывать новое. Для этого им нужны как вычислительные ресурсы, так и поддержка со стороны более опытных исследователей. Лаборатория как раз дает такую возможность. Поэтому необходимо показывать ребятам из разных городов на реальных примерах студентов и их исследований, что заниматься наукой и публиковаться на крупнейших конференциях реально даже в бакалавриате", – рассказывает Ярослав Аксенов, исследователь обработки естественного языка в Tinkoff Research, выпускник Tinkoff Lab.
Участники мероприятия получили возможность пройти отбор на стажировку в Tinkoff Lab и начать исследовать новые возможности искусственного интеллекта под руководством менторов. Индустриальные проекты студентов становятся частью экосистемы "Тинькофф", а научные – основой для публикаций и докладов на конференциях.
>>> Больше интересных историй – подпишитесь на наши Telegram, Instagram и Viber