Создан нейрочип на мемристорах
Мы давно следим за прогрессом в области мемристоров, и уже писали о перспективах их использования в биткойн-майнинге. Помимо этого применения, мемристоры сулят серьезный прогресс в сфере создания нейровычислительных систем. Недавно, именно на этом направлении произошел настоящий прорыв.
Команда исследователей из Университета Стоуни Брук и Университета Калифорнии в Санта-Барбаре создала нейрочип, в котором пары мемристоров имитируют работу синапсов. Авторам впервые удалось объединить их с транзисторами в рамках отработанной КМОП-технологии.
Мемристоры интересны тем, что позволяют точнее имитировать некоторые свойства нейронов и связей между ними. В частности, лабильность и инертность. Первое обеспечивает изменение направления импульсов в зависимости от их частоты и текущего состояния нервной системы. Второе – способность нервных клеток запоминать предыдущие состояния и реагировать на каждый новый импульс в зависимости от своего предшествующего состояния.
В целом поведение пары нейронов всегда зависит от многих условий, имевших место в недавнем и отдалённом прошлом. Классические радиотехнические элементы малопригодны для воссоздания этих свойств, так как их поведение в основном определяется текущими параметрами тока. Поэтому моделирование даже малой группы нейронов требует мощности суперкомпьютера с миллиардами микротранзисторов.
У мемристоров сопротивление в каждый момент времени непостоянно и зависит от силы протекавшего ранее тока. Чем больше она была, тем ниже становится сопротивление на какое-то время. Однако оно не падает до нуля и сохраняется даже после того, как ток перестаёт через них протекать, что делает мемристоры одним из вариантов физической реализации энергонезависимой памяти.
В современных физических моделях нервной ткани мемристоры позволяют точнее имитировать процессы в синапсах, воссоздавая характер связи между нейронами. Традиционные элементы (транзисторы, диоды, резисторы) при этом контролируют общую логику работы нейронов.
К сожалению, объединить мемристоры и транзисторы в рамках единой технологии CMOS до сих пор не представлялось возможным. Слишком низкой получалась плотность размещения элементов, или же свойства мемристоров оказывались совершенно непредсказуемыми. Похоже, теперь эти проблемы удалось решить объединённой группе исследователей двух университетов.
В своей работе авторы использовали для формирования мемристора комбинацию из диоксида титана и оксида алюминия. Толщина слоя первого материала характеризует сложность производства и основные электрические параметры, а второго – его механическую прочность и долговечность. Пытаясь найти оптимальную конфигурацию мемристора, они последовательно перебирали в серии экспериментов разную толщину слоя каждого материала в диапазоне от 5 до 100 нм.
Благодаря такому кропотливому труду, по КМОП-технологии удалось изготовить нейрочип, в узлах пространственной решётки (точках пересечения цепей) которого находятся мемристоры. Он был обучен распознавать три буквы латинского алфавита (V, N, Z), и снижал процент ошибок после каждой демонстраций множества символов. В итоге получившаяся нейросеть оказалась в состоянии успешно идентифицировать все три символа, обрабатывая большую часть вычислений с помощью мемристоров.
Пока созданный нейрочип – всего лишь демонстрация концепции. Он довольно примитивен по своей структуре и содержит сетку из 12×12 мемристоров.
Однако сама методика выглядит крайне перспективно, поскольку позволяет выполнить лёгкое масштабирование.
Один из рецензентов – Роберт Ленгенштейн (Robert Legenstein) из технического университета Граца, считает, что она уже в ближайшие годы изменит всю компьютерную отрасль.
Остаётся множество прикладных задач, которые нейронные сети решают гораздо эффективнее, чем традиционные вычислительные машины. Особенно, если сравнивать их по затратам энергии. Ленгенштейн считает, что даже при использовании технологического процесса 30 нм, в нейрочипе площадью один квадратный сантиметр и потребляемой мощностью около ватта можно будет поместить функциональный аналог 25 млн нейронов, каждый из которых будет содержать по 10 тысяч синапсов.
Цифры звучат колоссальные, но следует понимать, что речь вовсе не идёт о моделировании мозга. В проекте Human Brain до сих пор пытаются имитировать работу пары нейронных колонок на суперкомпьютере стоимостью в миллиард евро. Нейрочип будет просто выполнять конкретные узкоспециализированные функции, используя для ускорения работы некоторые особенности организации нервной ткани. В этом и заключается сила «слабого ИИ».
Источник: Computerra
Мы давно следим за прогрессом в области мемристоров, и уже писали о перспективах их использования в биткойн-майнинге. Помимо этого применения, мемристоры сулят серьезный прогресс в сфере создания нейровычислительных систем. Недавно, именно на этом направлении произошел настоящий прорыв.
Команда исследователей из Университета Стоуни Брук и Университета Калифорнии в Санта-Барбаре создала нейрочип, в котором пары мемристоров имитируют работу синапсов. Авторам впервые удалось объединить их с транзисторами в рамках отработанной КМОП-технологии.
Мемристоры интересны тем, что позволяют точнее имитировать некоторые свойства нейронов и связей между ними. В частности, лабильность и инертность. Первое обеспечивает изменение направления импульсов в зависимости от их частоты и текущего состояния нервной системы. Второе – способность нервных клеток запоминать предыдущие состояния и реагировать на каждый новый импульс в зависимости от своего предшествующего состояния.
В целом поведение пары нейронов всегда зависит от многих условий, имевших место в недавнем и отдалённом прошлом. Классические радиотехнические элементы малопригодны для воссоздания этих свойств, так как их поведение в основном определяется текущими параметрами тока. Поэтому моделирование даже малой группы нейронов требует мощности суперкомпьютера с миллиардами микротранзисторов.
У мемристоров сопротивление в каждый момент времени непостоянно и зависит от силы протекавшего ранее тока. Чем больше она была, тем ниже становится сопротивление на какое-то время. Однако оно не падает до нуля и сохраняется даже после того, как ток перестаёт через них протекать, что делает мемристоры одним из вариантов физической реализации энергонезависимой памяти.
В современных физических моделях нервной ткани мемристоры позволяют точнее имитировать процессы в синапсах, воссоздавая характер связи между нейронами. Традиционные элементы (транзисторы, диоды, резисторы) при этом контролируют общую логику работы нейронов.
К сожалению, объединить мемристоры и транзисторы в рамках единой технологии CMOS до сих пор не представлялось возможным. Слишком низкой получалась плотность размещения элементов, или же свойства мемристоров оказывались совершенно непредсказуемыми. Похоже, теперь эти проблемы удалось решить объединённой группе исследователей двух университетов.
В своей работе авторы использовали для формирования мемристора комбинацию из диоксида титана и оксида алюминия. Толщина слоя первого материала характеризует сложность производства и основные электрические параметры, а второго – его механическую прочность и долговечность. Пытаясь найти оптимальную конфигурацию мемристора, они последовательно перебирали в серии экспериментов разную толщину слоя каждого материала в диапазоне от 5 до 100 нм.
Благодаря такому кропотливому труду, по КМОП-технологии удалось изготовить нейрочип, в узлах пространственной решётки (точках пересечения цепей) которого находятся мемристоры. Он был обучен распознавать три буквы латинского алфавита (V, N, Z), и снижал процент ошибок после каждой демонстраций множества символов. В итоге получившаяся нейросеть оказалась в состоянии успешно идентифицировать все три символа, обрабатывая большую часть вычислений с помощью мемристоров.
Пока созданный нейрочип – всего лишь демонстрация концепции. Он довольно примитивен по своей структуре и содержит сетку из 12×12 мемристоров.
Однако сама методика выглядит крайне перспективно, поскольку позволяет выполнить лёгкое масштабирование.
Один из рецензентов – Роберт Ленгенштейн (Robert Legenstein) из технического университета Граца, считает, что она уже в ближайшие годы изменит всю компьютерную отрасль.
Остаётся множество прикладных задач, которые нейронные сети решают гораздо эффективнее, чем традиционные вычислительные машины. Особенно, если сравнивать их по затратам энергии. Ленгенштейн считает, что даже при использовании технологического процесса 30 нм, в нейрочипе площадью один квадратный сантиметр и потребляемой мощностью около ватта можно будет поместить функциональный аналог 25 млн нейронов, каждый из которых будет содержать по 10 тысяч синапсов.
Цифры звучат колоссальные, но следует понимать, что речь вовсе не идёт о моделировании мозга. В проекте Human Brain до сих пор пытаются имитировать работу пары нейронных колонок на суперкомпьютере стоимостью в миллиард евро. Нейрочип будет просто выполнять конкретные узкоспециализированные функции, используя для ускорения работы некоторые особенности организации нервной ткани. В этом и заключается сила «слабого ИИ».
Источник: Computerra
Создан нейрочип на мемристорах
0 commentaires:
Enregistrer un commentaire