Введение и разминка 0:02 Приветствие и разминка с аудиторией. Вопросы о венерроморфных архитектурах и импульсных нейронных сетях. Объявление темы и плана выступления.
Мотивационная часть 0:34 Проблема роста энергетических потребностей. Закон Мура и его ограничения. Влияние видеокарт на вычислительные возможности.
Проблемы современных нейросетей 1:24 Сравнение параметров нейросетей. Логический рост возможностей нейросетей. Возможные фундаментальные ограничения в будущем.
Физические ограничения 2:02 Пределы уменьшения размеров транзисторов. Фотолитографы и их ограничения. Будущие пределы, связанные с атомами кремния.
Параллельность и архитектура фон Неймана 3:03 Проблемы параллельности и архитектуры фон Неймана. Закон Амдала и его ограничения. Исследование масштабируемости нейросетей.
Мозг как пример 4:42 Эффективность мозга и его архитектура. Нейроны как наномеханизмы. Независимая работа нейронов и их масштабируемость.
Математические модели нейронов 6:04 Упрощенные модели нейронов. Лифт-нейрон и его уравнение. Дискретизация и упрощение модели.
Кодирование данных 8:12 Способы кодирования изображений. Грейс Кейли и вероятность спайков. Кодирование с задержкой и модуляция дельты.
Обучение нейросетей 9:21 Необходимость метода обучения. Возможность заимствования методов из природы.
Правило Хебба 10:15 Дональд Хебб сформулировал правило, описывающее синоптические связи между нейронами. Синаптические связи могут быть слабыми или сильными, в зависимости от сопротивления. Организм учится, наблюдая корреляцию между импульсами нейронов.
Алгоритм обучения 11:09 Алгоритм использует обратную экспоненту и офсет для снижения и увеличения сопротивления синапсов. Обучение происходит без учителя, но пока не очень эффективно.
Применение алгоритма 11:53 В 2015 году с помощью импульсной нейросети удалось распознать рукописные цифры. Используется частотное кодирование и тормозящие нейроны для распознавания.
Аппаратная реализация нейронов 13:34 Можно создать аппаратный нейрон с помощью резистора, конденсатора и переключателя. Мемристоры могут служить для создания синапсов, изменяя сопротивление в зависимости от заряда.
Кроссбар-архитектура 15:29 Кроссбар-архитектура позволяет коммутировать сигналы через мемристоры. Оптимизация и разбиение на блоки помогают строить большие системы с миллионами нейронов.
Нейроморфные процессоры 16:26 Существуют процессоры, реализующие нейроморфную архитектуру. Примеры: TrueNorth, Intel, BrainScale S2.
Отечественные разработки 18:52 Нейрочип Алтай также является отечественной разработкой. Основные задачи: распознавание картинок и видеопотоков с минимальным энергопотреблением.
Примеры применения 20:33 Китайцы создали гибридный чип для автономного управления велосипедом. Чип сочетает традиционные процессоры и нейропроцессоры, обеспечивая низкое энергопотребление.
Автономные системы распознавания жестов 21:17 Традиционные архитектуры требуют значительных вычислительных мощностей или онлайн-подключения к нейросетям. Компания IBM представила систему распознавания жестов с использованием нейропроцессора и DIS-камеры. DIS-камера передает импульсы с каждого пикселя, что позволяет использовать импульсные нейросети.
Применение DIS-камер и нейросетей 22:14 DIS-камеры эффективны для высокоскоростной съемки, оставаясь дешевыми. Intel также разработала систему распознавания жестов с обучением на устройстве. Создан "искусственный нос" для анализа запахов с использованием нейросети.
Кроссбар-архитектура и нейронные сети 23:34 Кроссбар-архитектура позволяет выполнять сложные операции за один электрический импульс. Оптимизация кроссбара ускоряет умножение матриц и снижает энергопотребление. Классические нейросети можно переносить на нейроморфные архитектуры.
Инструментарии для нейросетей 26:25 SNN-TUTZ поддерживает автоматический перевод моделей в импульсные нейронные сети. Библиотека PYN поддерживает трансляцию импульсных нейросетей на любую платформу. PYN позволяет создавать и тестировать импульсные нейросети на различных устройствах.
Будущее нейроморфных архитектур 28:24 Нейроморфные архитектуры имеют потенциал для решения повседневных задач. Квантовые компьютеры пока не достигли продуктивного уровня из-за фундаментальных проблем. Нейроморфные процессоры уже существуют и могут быть использованы в повседневной жизни.
Технические аспекты нейроморфных процессоров 31:12 Современные нейроморфные компьютеры используют техпроцессы 30-60 нанометров. Разработки включают трехмерные кроссбары для увеличения производительности. Министоры являются будущим памяти и вычислительных блоков, требуя меньше энергии.
Выбор процессоров и перспективы 33:01 Вопрос о выборе между процессорами Алтай и китайскими аналогами. Обсуждение перспектив увеличения производительности процессоров Алтай.
Производительность нейропроцессоров 33:43 Сложно сравнивать производительность нейропроцессоров из-за отсутствия точных метрик. Параллелизация позволяет собирать схемы и блоки из отдельных чипов. Проигрывают в энергопотреблении и занимаемых площадях.
Проблемы и перспективы производства 34:36 Алтай производит нейропроцессоры на SMS, но нуждается в новых производственных мощностях. Китайские стартапы активно развиваются, привлекая значительные инвестиции. Финансовые выгоды от использования китайских или алтайских процессоров неясны.
Обучение на кристалле и энергопотребление 35:22 Обучение на кристалле зависит от наличия сопроцессора пластичности синапсов. Ограничения по числу операций связаны со скоростью отклика элементов. Время переключения транзисторов и других элементов ограничивает производительность.
Сравнение с обычными процессорами 37:50 Сравнение нейропроцессоров с обычными процессорами бессмысленно из-за различий в скорости операций. Нейропроцессоры обучены на производстве и могут быть быстро интегрированы в устройства.
Нейроморфы в облаках 37:50 Нейроморфы уже используются в облаках, например, в Human Brain Project. Доступ к облачным сервисам для российских вузов ограничен.
