Ученые нашли новый подход к исправлению ошибок искусственного интеллекта

Искусственный интеллект тоже ошибается. О том, как эти ошибки исправлять, а также о том, как разгадать «загадки» многомерного мозга, рассказывает международная группа исследователей российского происхождения в журнале «Physics of Life Reviews» .  Авторы статьи «Симфония многомерного мозга» — всемирно известные ученые: главный научный сотрудник лаборатории перспективных методов анализа многомерных данных Университета Лобачевского, профессор Университета Лестера (Великобритания) Александр Горбань, ведущий научный сотрудник лаборатории перспективных методов анализа многомерных данных Университета Лобачевского, профессор Университета Лестера (Великобритания) Иван Тюкин, а также старший научный сотрудник лаборатории нейросетевых технологий Университета Лобачевского, профессор Университета Комплутенсе (Мадрид, Испания) Валерий Макаров.

Суть проблемы авторы видят в геометрии многомерных пространств. В многомерии облака данных приобретают неожиданно простые свойства. Даже в больших случайных наборах данных каждая точка с большой вероятностью отделима от всех других точек плоскостью, которая строится по явным формулам.

Это явление стохастической (случайной) отделимости одновременно служит основой и коррекцией ошибок искусственного интеллекта, и таких нейрофизиологических феноменов, как «бабушкины клетки». Так называются отдельные нейроны, селективно реагирующие на предъявление какого-либо образа («бабушки»). Системы искусственного интеллекта ошибаются и будут ошибаться. Человек должен разработать эффективную технологию обработки ошибок искусственного интеллекта или отказаться от его использования в важных проектах, – подчеркнул профессор Александр Горбань.

Если обнаружена ошибка искусственного интеллекта, ее можно исправить на будущее, отделив простым правилом (плоскостью) ситуацию с ошибкой от прочих ситуаций, где ошибок не было. Легко строятся каскады таких простых корректоров. Они позволяют исправлять ошибки искусственного интеллекта без переучивания исходной системы, которое требует значительно больше времени и различных ресурсов.

Новая технология исправления ошибок работает. Она исправляет ошибки искусственного интеллекта «на лету» и позволяет системам искусственного интеллекта обучать друг друга. Именно этого и добивались ученые.

Елена Краснова

Нет комментариев