Каждый день продавцы в Точке прозванивают 3000+ карточек, но что если мы можем влиять на этот процесс и подбирать карточки на прозвон для каждого продавца? Расскажу, как мы сделали машинку, которая ранжирует компании по вероятность конвертации в клиента, а потом переделали ее в своеобразный тиндер: карточки с контактами каждый день разделяются между продавцами на основе персональных скоров, предсказанной производительности и срочности прозвона. Затрону техническую сторону машинки для предсказания персональных скоров + стратегию бронирования карточек и как подобрать оптимальное временное окно бронирования. А ещё - покажу, сколько денег мы на этом заработали

undefined

В сфере услуг Over-The-Top (OTT) и Video On Demand (VOD) на операционную эффективность существенно влияют две основные проблемы: отток пользователей и использование контента. Высокий уровень оттока подрывает усилия, вложенные в привлечение пользователей, а неоптимальное использование контента может снизить интерес зрителей, что еще больше усугубляет проблему оттока. Эти платформы часто выделяют большую часть своих бюджетов на привлечение новых пользователей и защиту прав на контент. Поэтому решение важнейших вопросов о том, как поддерживать вовлеченность зрителей и какой контент приобретать - или как лучше использовать существующий контент - становится необходимым условием успеха в индустрии OTT/VOD.
В исследовании PWC подчеркивается, что удержание зрителей положительно коррелирует с широтой потребляемого контента, что указывает на то, что разнообразная и увлекательная библиотека контента является ключом к снижению уровня оттока. Учитывая это, лидеры рынка вкладывают значительные средства в сложные алгоритмы рекомендаций, стремясь выделиться на высококонкурентном рынке.
На предстоящей конференции будут представлены стратегии для компаний, у которых нет ресурсов для прямой конкуренции с гигантами отрасли. Она будет посвящена тому, как эти организации могут использовать передовые технологии в рекомендательных системах для повышения вовлеченности зрителей и принятия обоснованных решений по приобретению контента, тем самым находя свой собственный путь к успеху на переполненном рынке OTT/VOD.

Тема – вероятностное программирование и генеративные вероятностные модели. Вероятностное программирование позволяет включать в модели машинного обучения экспертные знания и допущения, в первую очередь о взаимосвязях различных факторов, и учитывать ненаблюдаемые факторы, которые управляют процессом генерации данных. В качестве практического примера будем рассматривать задачу определения скрытых потребностей, определяющих структуру чеков у покупателей.

В своем докладе расскажу про то, как мы в Контур.Фокусе разрабатывали и внедряли в продукт динамическую модель оценки вероятности банкротства. Данная модель призвана помочь пользователям Контур.Фокуса в оценке надежности контрагентов, так как обладает предиктивной способностью оценивать риск банкротства компании на основании данных бухгалтерской отчетности, арбитражных исков и других событий. Подробно разберем детали обучения и деплоя модели, с какими трудностями столкнулись при интеграции и как собирали обратную связь по новой фиче.

А.Н. Колмогоров - крупнейший математик XX века, основоположник современной теории вероятностей, также заложивший основы теории марковских случайных процессов с непрерывным временем. Эти результаты, оказавшие огромное влияние на развитие прикладных методов обработки сигналов, фильтрации, моделирования и обработки финансовых данных, в 21 веке снова оказались в центре внимания в связи с развитием искусственного интеллекта и его приложений. Действительно, для решения таких важных прикладных задач, как повышение разрешения изображений, синтезирование речи по тексту, генерация изображений на основе текстовых описаний, и др. требуются эффективные методы генеративного моделирования, которые способны порождать объекты из распределения, задаваемого выборкой примеров. Недавние достижения в области генеративного моделирования как раз и базируются на диффузионных моделях и используют математическую основу, заложенную еще в прошлом веке А.Н. Колмогоровым и его последователями. В докладе будет рассказано о современных подходах к генеративному моделированию на основе диффузионных процессов и на основе решения задачи Монжа-Канторовича. Будет показана связь решения энтропийно-регуляризованной задачи Монжа-Канторовича с задачей построения диффузионного процесса с определенными экстремальными свойствами. Работа соответствующих алгоритмов будем продемонстрирована на примере решения различных задач обработки изображений.

Современные нейронные сети представляют собой чрезвычайно ресурсоемкие алгоритмы с точки зрения памяти, вычислений и энергии. Это приводит к дополнительным затратам на их использование, а также ограничивает их использование на edge-устройствах. В туториале обсуждаются проблемы inference нейронных сетей с аппаратной и программной точки зрения. В первой мы кратко обсудим проблему «узких мест» фон Неймана и способы ее обхода. Во второй мы обсуждаем основные подходы к оптимизации нейронных сетей, такие как: pruning, кантизация, дистилляция, их варианты и их комбинации. Заодно сравним современные системы ИИ с мозгом и объясним причины большей эффективности мозга. Мы покажем, что наиболее эффективные подходы к оптимизации систем ИИ используют (в некотором смысле) принципы, основанные на мозге.

Развитие больших языковых моделей, а также систем синтеза речи привело к появлению "живых" агентов в виртуальных мирах. Этим агентам также требуется реалистичная жестикуляция во время взаимодействия с человеком. В своем докладе я расскажу о том, как такие жесты можно генерировать из речи и не только. Я представляю наши подходы к генерации разговорных жестов, возникшим в ходе участия в GENEA Challenges, что в итоге привело к трем статьям. Я расскажу о самой задаче, о первых подходах к её решению, а также о подходах, предложенных нами, с какой главной проблемой авторегрессионных моделей мы столкнулись, как мы пытались её решить и как нам помогли видеоигры.

Эксплуатация нейросети по масштабированию и последующей оптимизации брендовых рекламных кампаний, с условием повышения доли целевых заявок и без каннибализации органического трафика

Представлена новая нейро-символьная архитектура больших языковых моделей. Она сочетает в себе обучение без учителя и обучение с подкреплением и требует на несколько порядков меньше вычислений для обучения по сравнению с нейросетевыми языковыми моделями. Сложность обучения в предлагаемой архитектуре растет линейно с размером данных, в отличие от квадратичной зависимости в нейросетевых моделях языка.

Мы предлагаем новый, мультиагентный подход к решению задач математического ризонинга. LLM показали значительный прогресс в решении мат. задач, однако они имеют фундаментальные ограничения и не позволяют добиваться высокого качества решения стабильно. В предлагаемом подходе агенты самоорганизуются для создания стратегии решения задачи на лету, что позволяет добиваться надежного решения целого класса математических задач арифметического ризонинга.

We explore predicting startup success using CrunchBase data and deep learning. Our model forecasts milestones like IPOs, unicorn status, and M&A for Series B and C startups. We achieved 14x capital growth (98th percentile of VC funds), identified high-potential startups, and stress the importance of diverse data for accuracy. This work shows deep learning's promise in startup success prediction.

1. Who are the mathematicians in the MMK? 2. What kind of problems they are solving by using different methods and instruments? 3. What is the economic effect of the application of the mathematical modelling? 4. Why mathematical modelling is related to the machine learning? 5. What kind of the case studies we have already carried out?

We will talk about the ability of Large Language Models (LLMs) to provide personalized business-oriented communication with the help of agents. We also tackle the problem of finetuning and adding new modalities for practical applications. Finally, we formulate core challenges and approaches for building applications over LLMs.

Мы покажем вам, как мы используем и улучшаем трансформеры и какие алгоритмы мы применяем для создания синтетических данных, чтобы предсказать редкие дефекты на конвейерных лентах.

Данный доклад представляет обзор области Federated Learning, освещая ее развитие и тренды на 2023 год. Федеративное обучение, быстро развивающееся направление в машинном обучении, включает в себя обучение алгоритмов на децентрализованных устройствах или серверах при локализации данных. Презентация начнется с краткого введения в федеративное обучение, объясняющего его основные принципы и значение.
Затем в докладе будут представлены ключевые кейсы и области применения, которые демонстрируют практическую пользу и универсальность
федеративного обучения в различных секторах экономики. Значительная
часть презентации будет посвящена обсуждению достижений в этой области
за 2023 год. Этот анализ основан на тщательном изучении общего
информационного пространства по этой теме, включая анализ тематических
конференций, академических публикаций, обновлений открытых инструментов и репозиториев GitHub.

Кроме того, в презентации будет представлен обзор новостей компаний,
разрабатывающих решения в этой области, с целью предоставить представление о бизнес- и технологических последствиях этих разработок. Будет предложена критическая оценка уровня зрелости технологии федеративного обучения, оценивая ее готовность к широкому внедрению. В этом аспекте будут затронуты проблемы, с которыми сталкивается данная
технология, потенциальные риски и перспективы федеративного обучения,
предоставляя всесторонний взгляд на ее текущее состояние и будущее развитие.

В этом докладе мы расскажем о проблемах управления перегрузками при передаче файлов, предложим реализацию алгоритма управления перегрузками на основе методов обучения с усилением и покажем, как он был применен в реальной жизни.

As industry needs to process growing amounts of training data, reduce the cost of fine-tuning a single model, and minimize the environmental effects, the task of accelerating the fine-tuning of large language models (LLM) has become extremely demanding. DAREL is a novel training data reduction method that operates with training samples based on losses obtained from a currently trained model or a pre-trained one. The proposed method is devoted to Large Language Models fine-tuning and is designed primarily to be combined with Parameter-Efficient fine-tuning methods, such as LoRA. The results of computational experiments provide compelling evidence of the enhancement of the fine-tuning quality and time of Large Language Models. DAREL allows an average 1.26x fine-tuning acceleration for GPT2-S, GPT2-M and GPT2-L on a variety of datasets, including E2E-NLG, DART and WebNLG, with an average BLEU drop of 1.44 p.p.

Node2Vec is a widely used algorithm for learning feature representations of the graph nodes. This algorithm is intensivelly used in multiple highload applications. Thus its performance is very important. There are two reference implementations of the Node2Vec in C++ and Python from Stanford Network Analysis Project (SNAP). However, their performance is not optimal. We introduce an optimized implementation of the Node2Vec algorithm, which performance is 2.5-5.1 times higher than the reference ones. We also prove that the accuracy of the optimized algorithm stays the same by solving a multi-label node classification problem on several datasets.

Обсудим, почему мы решили объединить мультимодальные сети, неразмеченные данные и новый взгляд на формат DICOM в единой фундаментальной модели. Что это нам дало и почему за этим будущее.

В основной части выступления будет рассмотрена проблема эффективного планировании лучевой терапии. Для планирования необходимо сегментировать большое количество анатомических структур. Задача сегментации осложняется тем, что 1) используются объемные медицинские изображения и 2) органы пациентов абнормальны. По этим причинам результаты автоматической сегментации требуют ручных исправлений. Будет представлен подход для оптимизации процесса исправления сегментации в режиме реального времени на основе информации о взгляде врача. В дополнительной части выступления будет рассмотрена проблема интерпретируемости глубоких моделей.

Neovascular age-related macular degeneration (n-AMD) is a form of AMD that is responsible for most cases of severe vision loss. Anti-VEGF therapy, which is the gold standard for the treatment of this pathology, is accompanied by OCT monitoring. However, this process is hampered by the lack of methods for accurately quantifying OCT images. The aim of this study is to develop and evaluate the accuracy of the automated calculation of the quantitative characteristics of PED, SRF and IRF biomarkers. The study material included OCT B-scans of patients with n-AMD and pigment epithelial detachment who underwent anti-VEGF therapy from 2014 to 2021. OCT B-scans obtained from a CirrusHD-OCT 5000 Carl Zeiss Meditech device. The neural network for OCT image segmentation was trained on a dataset including 251 and 385 images from Experiments 1 and 2, respectively. The images were annotated by experts highlighting PED, SRF and IRF biomarkers using Labelme software. Data preprocessing included image resizing, normalization, and conversion to grayscale format. The data set was divided into training and validation. To segment retinal structures, the UNET architecture with the Adam optimizer and the Categorical Cross-Entropy loss function was used. The algorithm for calculating quantitative biomarker characteristics was based on edge detection using the method of Satoshi Suzuki and KeiichiA be. Testing data set for access the efficiency of system that included algorithms for segmentation and calculation of quantitative characteristics of biomarkers, included 241 images for which the length and height of the PED were measured by a physician using built-in software. Also, the image data were marked with respect to 3 anatomical treatment outcomes: attached PED; non-attached PED; PED tear. The developed method for processing OCT images made it possible to segment the biomarkers PED, SRF and IRF with high accuracy. The segmentation model shows the best results for PED (0.9), but also shows good accuracy for SRF and IRF (0.72 and 0.69) with increasing number of training data in experiment 2. Automated algorithm for calculating quantitative characteristics of biomarkers on the test set data from patients with n-AMD showed no statistically significant difference when comparing measurements with a physician. The study also showed that the attached and non-attached PED groups were statistically significantly different regarding the height, extent and area of the PED. In addition, IRF area may also be a predictor of PED tear, since its values are statistically significantly different for groups 2 and 3. Thus, automated segmentation and calculation of biomarkers can achieve performance comparable to an ophthalmologist in assessing the quantitative characteristics of biomarkers in cases of neovascular macular degeneration.

Robust Reinforcement Learning (RRL) is a promising Reinforcement Learning (RL) paradigm aimed at training robust to uncertainty or disturbances models, making them more efficient for real-world applications. Following this paradigm, uncertainty or disturbances are interpreted as actions of a second adversarial agent, and thus, the problem is reduced to seeking the agents' policies robust to any opponent's actions. This paper is the first to propose considering the RRL problems within the positional differential game theory, which helps us to obtain theoretically justified intuition to develop a centralized Q-learning approach. Namely, we prove that under Isaacs's condition (sufficiently general for real-world dynamical systems), the same Q-function can be utilized as an approximate solution of both minimax and maximin Bellman equations, and we also indicate conditions when this Q-function can be decomposed. Based on these results, we present the Isaacs Deep Q-Networks (IDQN) and Decomposed Isaacs Deep Q-Networks (DIDQN) algorithms, respectively. We analyze their performance by comparing them with other baseline RRL and Multi-Agent RL algorithms. We consider both simple environments with known accurate solutions and complex large-dimensional MuJoCo environments. In each experiment, we thoroughly evaluate the agents' policies obtained after learning, training opponents against them using various RL algorithms with various parameters. The experiment results demonstrate the superiority of the presented algorithms in all experiments under consideration.

Reinforcement Learning is used for solving of different problems and tasks in different subject areas (traffic control, behavior modelling, SW testing, cybersecurity etc.). There are a lot of real-world tasks when a single agent have to cope with other agents (to coordinate or compete) and multi-agent systems (MAS) is used for such situations. High-dimensional RL-MAS environment causes "curse of dimension" problem and deep learning helps to solve this problem efficiently. This presentation covers some examples of using RL and DeepRL for multi-agent systems.

Radiologists dedicate more than half of their diagnostic time to in- terpreting computed tomography (CT) scans, with chest and abdominal scans being particularly detailed and time-intensive due to the need to meticulously identify and describe a variety of diseases. Our cutting-edge product simultaneously analyzes 10 different diseases in these scans, in- cluding disorders affecting the lungs, heart, bones, and abdominal regions. In this study, we demonstrate how introducing an AI-assisted study pro- vides a substantial time-saving advantage and lessens the heavy workload currently borne by radiologists. Specifically, it saves up to 20% of the time spent on CT examinations (≈ 2.5 mins on average), and increases the average recall by over 29%, while preserving the same level of positive predictive value.

Automatic humor detection is a highly relevant task for conversational AI. To date, there are several English datasets for this task, but little research on how models trained on them generalize and behave in the wild. To fill this gap, we carefully analyze existing datasets, train RoBERTa-based and Naïve Bayes classifiers on each of them, and test on the rest. Training and testing on the same dataset yields good results, but the transferability of the models varies widely. Models trained on datasets with jokes from different sources show better transferability, while the amount of training data has a smaller impact. The behavior of the models on out-of-domain data is unstable, suggesting that some of the models overfit, while others learn non-specific humor characteristics. An adversarial attack shows that models trained on pun datasets are less robust. We also evaluate the sense of humor of the chatGPT and Flan-UL2 models in a zero-shot scenario. The LLMs demonstrate competitive results on humor datasets and a more stable behavior on out-of-domain data. We believe that the obtained results will facilitate the development of new datasets and evaluation methodologies in the field of computational humor. We've made all the data from the study and the trained models publicly available.

Linguistic and logical text structures are very useful for some applied tasks like dialogue generation, argument mining and fact verification. We will consider several cases of such tasks: multi-party dialogue generation by means of discourse structure and also fact correction based on information retrieval combined with logical reasoning.

Over the past years, foundation models and LLMs have demonstrated enhancements in measurable aspects and the development of new qualitative features, creating a need for their comprehensive evaluation and analysis of the associated risks. To address these issues, we present MERA, a new instruction benchmark for evaluating foundation models oriented toward the Russian language. The benchmark encompasses 21 evaluation tasks for generative models. The talk presents the new evaluation methodology, an open-source code base for the MERA assessment, a leaderboard with a submission system, and the evaluated baselines' results.

Black and white lists are required for WAF to work. White lists are difficult to create, and black lists often cause false developments. We suggest using ML to solve these problems.

В докладе представлен метод восстановления структуры сетевого трафика из потока байт до понятных полей. Разработанный метод позволяет анализировать и защищать системы без необходимости получения спецификаций используемых сетевых протоколов. Представлен метод выявления аномальной сетевой активности, основанный на моделировании системы в терминах гибридных автоматов. Передаваемые по сети данные обрабатываются, объединяются в состояния, для которых определяются допустимые границы и направления изменения. Аномалии выявляются как отклонение реального (наблюдаемого) поведения системы от ожидаемого (моделируемого).

В докладе рассмотрим полный путь от студенческой скамьи до первой работы как со стороны студента, так и со стороны компании. Насколько фундаментальное образование закрывает потребности компаний, как синергия корпораций с университетами помогает уменьшить разрыв. Обсудим, почему организации хотят работать с университетами.

В этом исследовании рассматривается социальная инженерия и психология в системе безопасности LLM. Опираясь на исследования в области социальных наук, мы рассматриваем параллели между обманом людей и обманом LLM, стремясь понять, как можно повлиять на такие модели или "взломать" их.

Как исследуют LLM с помощью методов психометрии (то есть человеческой психологии), и что при этом получается

В настоящее время в интеллектуальной робототехнике наблюдается переход от семантических карт к мультимодальным, которые могут содержать не только информацию о препятствиях и их типах, но и данные с текстовыми описаниями объектов или даже звуком, которые они издавали. В докладе будут рассмотрены современные нейросетевые методы, которые позволяют строить такие карты. Обсудим также оригинальные алгоритмы и примеры их использования на открытых датасетах, данных из фотореалистичного симулятора и реального мобильного робота. Отметим перспективы их применения для задач навигации и вызовы для запуска подобных подходов на встраиваемых устройствах.

В докладе впервые будет представлена передовая образовательная и исследовательская платформа для гуманоидной робототехники Roki X, разработанная в лаборатории МФТИ совместно с командой Старкит. Платформа состоит из гуманоидного робота, созданного на основе собственных сервомоторов, схемотехнических и архитектурных решений, симулятора и библиотеки алгоритмов управления движениями и компьютерного зрения, и API обеспечивающего доступ пользователя к платформе. Платформа предназначена для школьников старших классов и студентов, а также дает возможность участвовать в международных соревнованиях RoboCup и FIRA.

В докладе будет представлен новый подход в разработке технологий беспилотного вождения, основанный на использовании нейронных сетей. Современные достижения в области искусственного интеллекта открывают возможности для замены традиционных, обширных кодовых баз автономного вождения на более компактные, эффективные и адаптивные системы. Этот подход обещает не только упростить и ускорить разработку беспилотных автомобилей, но и значительно повысить их безопасность и надёжность.

В последнее время мы, в СКБ Контур, начали активно работать с внедрением различных ML моделей в Web. Подразумевается, что ML модель будет работать на компьютере пользователя. Поэтому хотелось бы рассказать о вызовах и проблемах, которые мы встретили, а также как мы их победили.


В докладе хочется подсветить две основные темы:

1. ML тема. Как адаптировать обычную torch модель к запуску в Web-е для realtime обработки аудио, какими способами можно запускать модель в Web-е.
   
   
2. Frontend тема. Какую web-архитектуру выбрать для запуска подобных моделей, чем удобна каждая архитектура и какие у них есть проблемы. Подсветить также какие ограничения ставятся для ML модели в условиях необходимости realtime обработки звука.