РУБРИКИ |
Нейрокомпьютеры |
РЕКЛАМА |
|
НейрокомпьютерыАнализ рассматриваемых разносто-квантованных уравнений, проведенный при (i=(, (i =(, (i=(, (ji=(j, ki=k показывает, что погрешность квантования ЦНП, квантователи которого осуществляют квантование без сохранения остатков и включены на входах ЦИ, имеет вид где |(i | – модуль погрешности квантования; (0 – значение погрешности (i при i=0; n – число разрядов переменной yi. В случае квантования без сохранения остатков и при включении квантователей на выходах ЦИ погрешность ЦНП можно оценить соотношением Если квантователи включены на входах ЦИ, а квантование осуществляется с сохранением остатков, то погрешность ЦНП может быть оценена следующим образом: При квантовании с сохранением остатков и квантователях на выходах ЦИ получим В результате сравнения выражений (43), (44), (45), (46) можно заключить, что погрешность квантования ЦНП, содержащих наиболее экономичные квантователи без сохранения остатков, намного больше погрешности ЦНП, использующих квантование с сохранением остатков. Действительно, как следует из соотношений (43), (44), в них содержится произведение (((t)-1, которое при 00. В то же время, из соотношения (65) следует, что уравнение (64) может быть устойчивым и при отрицательных (, если выполняется неравенство т. е. даже в тех случаях, когда уравнения (48) и (67) принципиально неустойчивы. Таким образом, ЦНП без инерционностей обладает широкими динамическими возможностями, что делает привлекательной идею построения процессоров, реализующих уравнение (64). Однако практическое воспроизведение точной экстраполяции связано с определенными техническими трудностями. Поэтому будем полагать, что задержки блоков умножения на постоянный или медленно меняющийся коэффициент при необходимости компенсируются экстраполяторами, а выходные приращения полного интегратора, реализующего временной сумматор ЦНП, в общем случае не экстраполируется. Подобная экстраполяция целесообразна лишь в том случае, когда приводит к улучшению динамических свойств, состоящих из ЦНП нейроноподобных ансамблей и структур. Используя полученные результаты, перейдем к рассмотрению вопросов создания элементной базы цифровых нейропроцессоров на основе микроэлектронной технологии. 14. Алгоритм и структура базового модуля цифрового нейропроцессора С целью практического использования рассматриваемых ЦНП целесообразно их изготовление на основе современной микроэлектронной технологии в виде больших интегральных схем (БИС). По этой причине уместна постановка задачи о разработке БИС, предназначенных не только для построения ЦНП, но и состоящих из них нейроподобных ансамблей и структур. Следуя морфологии отдельного нейрона, для отдельного ЦНП желательно иметь один корпус БИС. В то же время, учитывая то, что количество входных дендритных отростков у нервных клеток колеблется от единиц до десятков и сотен тысяч, в общем случае для БИС ЦНП необходимо предусматривать специальную БИС расширителя пространственного сумматора. При таком подходе номенклатура комплекта БИС ЦНП будет состоять из двух интегральных схем, а именно схемы собственно ЦНП, имеющей несколько информационных входов, и схемы входного расширителя, представляющего собой пространственный сумматор нейропроцессора. Вопрос о количестве входов каждого из корпусов БИС должен решаться исходя из возможностей конкретной микроэлектронной технологии. Пример одного из возможных вариантов построения таких схем приведен на рис.19 и на рис.20. Так, на рис.19 изображена структурная схема первого корпуса, а на рис.20 – второго корпуса БИС ЦНП (БИС1 и БИС2 соответственно). Однако необходимость в микросхемах двух типов ведет к определенным неудобствам при создании микроэлектронных ЦНП. Поэтому представляет интерес разработка алгоритма и структуры такого нейроподобного элемента, который будучи реализован в виде БИС мог служить базовым модулем при построении как временного, так и пространственного сумматоров, а значит, и нейропроцессора в целом. Для построения такого нейропроцессора используем подход, суть которого состоит в том, что для выполнения функций временного сумматора (БИС2) привлекается часть интеграторов, формирующих синаптические веса (ji в БИС1. Данный подход позволяет на основе БИС1 синтезировать новую, отличную от БИС1 и БИС2 микросхему нейронного модуля, работающего в режиме простейшего нейрона и способного быть базовым элементом для синтеза более сложных нейропроцессоров динамического типа, а также выполнять функции расширителя входов пространственного сумматора ЦНП. Действительно, как показывает анализ алгоритма (34–36), формирование дискретной функции yi из ее приращений (yi не отличается от формирования переменных синаптических весов (ji , параметров (i, (i, переменного порога (i и коэффициента ki из соответствующих приращений ((ji, ((i, ((i, ((i, ( ki, а формирование приращений (yi осуществляется по той же формуле, что и формирование пространственной суммы Vi(t. Следовательно, для сохранения возможности воспроизведения динамических свойств нейрона в соответствии с (34–36), в алгоритме базового нейронного модуля (БНМ) достаточно иметь лишь одно условие вида и одно соотношение вида Остальные параметры ЦНП, а именно (i, (i, (i, ki , можно формировать в цифровых интеграторах синаптических весов путем использования необходимых схемных соединений и введения соответствующих обозначений. Учитывая это обстоятельство, а также то, что в простейшем варианте БНМ должен функционировать как минимум в режиме формального нейрона с выходом Zi+1=Sign[Vi(t] и быть пригодным для создания более сложных нейропроцессоров с динамическим выходом Zi+1(t=max{0, Vi(t}, представим алгоритм БНМ в следующем виде: Покажем, что относительно Z БНМ, работающий в соответствии с алгоритмом (69), действительно реализует алгоритм формального нейрона. Для этого введем обозначения: Подставляя обозначения (70) в алгоритм (69), получим При (ji=(j, ((ji =0i, (i =(, ((i =0,(t=1 и xji({0, 1} система уравнений (71) принимает вид что с точностью до обозначений совпадает с алгоритмом формального нейрона. Полагая в некотором БНМ найдем, что относительно выхода V(t тот же модуль будет воспроизводить другую систему уравнений: Работающий в соответствии с (72) БНМ назовем модулем пространственной суммации. Далее учтем, что произведения yi-1(t могут формироваться таким же БНМ, если в алгоритме принять и использовать выход Z(t. Этот второй, запрограммированный в соответствии с (73) БНМ назовем модулем временной суммации. Реализуемый им алгоритм имеет вид: Если теперь использовать приращения Vi(t=(yi из алгоритма (72) модуля пространственной суммации в качестве приращений ((1i=(yi для алгоритма (74) модуля временной суммации, а также учесть, что в алгоритме (74) из приращений (yi формируются величины yi , то на выходе Z(t БНМ временной суммации получим выходные приращения динамического ЦНП, у которого (=k=1. В дальнейшем с целью упрощения анализа будем полагать, что если не сделаны специальные оговорки, то равенство (=k=1 выполняется автоматически. Таким образом, отдельный БНМ действительно может работать в режиме формального нейрона, пространственного и временного сумматора. Структурная схема такого БНМ показана на рис. 21. Из рисунка видно, что в общем случае модуль содержит N синаптических блоков, каждый из которых состоит из умножителя Мнj , регистра Рг (j синаптического веса ( j и двухвходового сумматора Смj, суммирующего значения весовых коэффициентов (ji с их приращениями ((ji. На первые входы умножителей Мн j поступают входные воздействия xj(i-1)(t с выходов других БНМ или от периферийного оборудования, связанного с внешней средой. Произведения (ji(xj(i-1)(t) суммируются многовходовым пространственным сумматором См(N+1) и в виде результирующей величины Vi(t поступают на выход модуля, а также на вход квантователя Кв. Следует отметить, что при n–разрядных синаптических весах (ji и n–разрядных входных воздействиях xj(i-1)(t произведения (ji(xj(i-1)(t) и их сумма Vi(t будут содержать 2n двоичных разрядов. Очевидно, что с выхода БНМ эти 2n–разрядные величины могут подаваться лишь на дополнительные входы rj расширения многовходового сумматора См(N+1) в качестве слагаемых и не могут использоваться ни в качестве приращений ((ji , ни в качестве сомножителей (xj(i-1)(t) на входах Мнj. Поэтому для согласования разрядностей величин Vi(t с разрядностью приращений ((ji и разрядностью входных воздействий xj(i-1)(t используется квантователь Кв, реализующий зависимость где Vi(t – квантованные значения Vi(t, содержащее n ее старших разрядов; Oi – остаток квантования, содержащий nмладших разрядов той же суммы Vi(t. Для уменьшения погрешности квантования величин Vi(t остатки Oi при квантовании по алгоритму (75) не отбрасываются, а учитываются в соответствии с алгоритмом где Oi-1 – остаток квантования суммы Vi-1(t в предыдущий (i-1)–й момент времени ti. Учитывая последнее соотношение, а также то, что выходной блок (ВБ) модуля формирует значения выходной функции Zi(t, переформулируем алгоритм (69) БНМ следующим образом: где (ij - n-разрядное значение синаптического веса j-го входа БНМ в i-й момент дискретного времени t; ((ji – n-разрядное приращение синаптического веса j-го входа; Vi(t – 2n-разрядная неквантованная сумма на выходе сумматора См(N+1); xj(i-1)(t – n-разрядные приращения входных воздействий; (ji – величины, поступающие на входы rj сумматора См(N+1) с выходов Vi(t других нейроподобных модулей; Vi(t – n-разрядные квантованные значения величин Vi(t. Выходные функции алгоритма (77) формируются выходным блоком ВБ модуля. Этот блок сравнительно прост, и по количеству используемого оборудования (совместно с оборудованием квантователя Кв, работающего по алгоритму (76)) примерно соответствует оборудованию ОБСБ синаптического блока. Иначе говоря, можно считать, что объем оборудования ОББНМ нейроподобного модуля может быть оценен соотношением Условное графическое обозначение БНМ показано на рис. 22. Используя данное обозначение, представим схему цифрового нейроподобного процессора так, как это показано на рис. 23. Информационные процессы, протекающие в данной схеме, могут быть описаны следующей системой разностных уравнений: где ( – порог моделируемого воздействия; ( – параметр, характеризующий инерционные свойства нервной клетки. Сравнивая уравнения системы (79) с математическим описанием информационных процессов в цифровой модели нейрона, найдем, что относительно выходной функции Zi+1(t система (79) действительно совпадает с алгоритмом нейропроцессора динамического типа. Относительно выходной функции Zi+1 отдельный БНМ работает в режиме обычного формального нейрона. Таким образом, БНМ представляет собой достаточно универсальный модуль, который способен работать в режимах пространственного сумматора и формального нейрона, а также в режиме временного сумматора. Более того, тот же модуль может служить и в качестве расширителя входов пространственного сумматора. Поэтому при его микроэлектронной реализации получается единственная универсальная БИС БНМ, выполняющая функции как БИС1, так и БИС2. Очевидно, что в такой БИС желательно иметь как можно больше синаптических входов, т. е. тех входов, на реализацию которых уходит основная часть оборудования БНМ. Однако, при проектировании БНМ необходимо учитывать и то, что в различных режимах оборудование модуля используется неравномерно. Так, из рис. 23 видно, что в БНМ1, выполняющем функции пространственного сумматора, используется практически все оборудование схемы. В то же время в БНМ2, реализующем функции временного сумматора, используется лишь 2(N+1)-1–я его часть. При возрастании N эффективность применения модуля БНМ2 уменьшается. С целью устранения данного недостатка описанных базовых нейронных модулей используем идею коммутации их синаптических блоков. При этом появляются модули с внутренней коммутацией. 15. Базовый модуль с внутренней коммутацией Идею построения коммутируемых БНМ (КБНМ) поясним при помощи схемы, показанной на рис. 24а (на рис. 24б показано ее условное графическое обозначение). Входы ?j (j=1, N+2) являются управляющими. Причем, ?j ({0, 1}. Если некоторый сигнал ?j =0, то соответствующий j-й синаптический блок отключается от сумматора и при помощи дополнительного выхода (j может быть подсоединен к некоторому входу расширения rj другого БНМ. Эффективность использования оборудования ЦНП, состоящего из двух коммутируемых БНМ, возрастает почти в два раза. Следующий этап совершенствования структуры БНМ связан с обеспечением возможности построения ЦНП не на двух, а на одном нейроподобном модуле. Достигается это путем обеспечения возможности переключения режимов работы модуля. 16. Базовый модуль с перестраиваемой структурой Блок-схема базового модуля с перестраиваемой структурой (БНМ ПС) имеет вид, показанный на рис. 25а (условное графическое обозначение приведено на рис. 25б). При использовании БИС БНМ ПС схема ЦНП может быть построена на одной микросхеме путем коммутации ее входов и выходов (рис. 26). Полюсы r1( rM позволяют увеличивать число входов ЦНП до нужного числа. В качестве расширителей входов используются такие же БИС. (Выходы (, (’, (1((N+2). При (=1 и отсутствии обратных связей БНМ ПС является обучаемым формальным нейроном или расширителем входов ЦНП. С показанными на рис. 26 обратными связями та же БИС выполняет функции ЦНП. Подключение такой же БИС на входы расширения позволяют увеличить число входов ЦНП. Таким образом, рассмотренный базовый модуль является полифункциональным и, кроме того, позволяет повышать эффективность использования своего оборудования путем переключения синаптических блоков. Достигается это путем незначительных аппаратных затрат внутри модуля и использования дополнительных управляющих, входных и выходных линий. 17. Расчет экономического эффекта Расчет экономического эффекта от производства новой продукции, не имеющей базы сравнения (принципиально новой продукции), осуществляется исходя из прибыли реализации единицы этой продукции, удельных капитальных вложений с учетом нормативного коэффициента их эффективности и годового объема производства принципиально новой продукции: Э = ( П – Ен*К)*А2 (80) где Э – годовой экономический эффект от производства нового продукта, руб.; П – прибыль от реализации единицы нового продукта, руб.; Ен – нормативный коэффициент эффективности капитальных вложений, равный 1,5; К – удельные капитальные вложения в производство нового продукта, руб.; А2 – годовой объем производства новых продуктов, ед. Для выбора наиболее экономичного варианта производства производятся расчеты сравнительной экономической эффективности на основе определения минимума приведенных задач: Зi = Сi + Ен*Кi ( min (81) где Зi – удельные (на единицу продукции) приведенные затраты на производство продукта, руб.; Сi – удельные текущие затраты (себестоимость) на производство продукта, руб.; Кi – удельные капитальные вложения в продукт, руб. Расчеты по формуле (81) позволяют из всего множества вариантов выпуска одинаковых по объему и качеству продуктов при различных текущих затратах и капитальных вложений выбрать вариант с наименьшими совокупными затратами. Решение о выборе варианта для постановки его на производство формируется на основе анализа экономической эффективности и народнохозяйственного значения продукта при его использовании с учетом расчетов, выполненных по формуле (81). Заключение Изложенный материал отражает один из важных подходов к проектированию искусственных нейронов и нейронных сетей. Суть этого подхода состоит в синтезе и аппаратной реализации разностных алгоритмов обработки информации в нервных клетках, воспроизводящих как моделирующие, так и вычислительные свойства нейронов. Данное обстоятельство оправдывает использование для обозначения синтезированного цифрового динамического нейроподобного элемента термина «цифровой нейропроцессор». Особенность такого ЦНП заключается в том, что, помимо выполнения крупных математических операций, он структурно настраивается на выполнение крупных моделирующих операторов типа формального нейрона, адаптивного нейрона и т. д. Нейронные операторы позволяют использовать ЦНП для имитационного моделирования неформализованных нейросетевых процессов в мозге. Математические операции позволяют создавать обучаемые сети систем распознавания образов. Более того, эти операции позволяют строить нейропроцессорные сети для решения таких задач вычислительной математики, как решение систем линейных алгебраических уравнений с произвольной, в том числе прямоугольной и квадратной особенной матрицей коэффициентов; решение задач линейного программирования; решение систем дифференциальных уравнений со сложными граничными условиями, решение интегральных уравнений и т. п. В то же время следует отметить, что данный подход не является единственным. В настоящее время многие фирмы США, Японии, Европы ведут интенсивные исследования, направленные на создание нейрокомпьютеров и нейроэлементов различных модификаций. Прежде всего это касается симуляционных (моделирующих) нейрокомпьютеров, разрабатываемых в виде пакетов прикладных программ для персональных ЭВМ и суперЭВМ. Разрабатываются нейроЭВМ на новой технологической основе, например оптической, оптоэлектронной, молекулярной. Литература 1. Чернухин Ю. В. Нейропроцессоры. Таганрог, ТРТИ, 1994. 2. Чернухин Ю. В. Искусственный интеллект и нейрокомпьютеры. Таганрог, ТРТИ, 1997. ----------------------- (1) [pic] (2) [pic] [pic] (3) [pic] (4) [pic] [pic] (5) [pic] [pic] (6) (8) [pic] [pic] [pic] (10) [pic] (12) 1 2 V(t) Z(t),V(t) (13) [pic] [pic] [pic] [pic] (14) [pic] [pic] (15) [pic] (16) (17) [pic] (18) [pic] (19) [pic] [pic] (20) [pic] [pic] (21) [pic] [pic] (22) (23) [pic] [pic] (26) [pic] (25) [pic] [pic] [pic] x(ti) xN(ti) (1 . . ПС . (N –1 Sign ky(ti) Z(ti+1) y(ti) (n k (1 . . ПС1 . (N . . . ( (( ПС2 –( x(ti) . . . xN(ti) (п И k ВБ Z(t) y’(t) y(t0) V(t) (1 . . ПС . (N –1 –( . . . x(ti) . . . xN(ti) (п И ВБ Z(t) y(t0) y’(t) y(t) Пвв1 Пвв2 ПввN ПЗУ Программа алгоритма ОЗУ (1 ( . ( . k . (N ( Пв МПУ Z(ti+1) x1(ti) x2(ti) xN(ti) [pic] [pic] [pic] (Wi+1 (m) ( yq(i+1) (m) См Мн Кв Рг yi-1 (n) yi=yi-1+( yi (Wi (n+m) ( yi (m) ЦИ См &1 &2 Рг Oi (n) (Wi+Oi-1 (Wi+1 (m) Кв1 (Wi (n+m) Ио Ип & Кв2 (Wi+1 Ип (Wi ЦИ yi-1 (Wi+1 (yq(i+1) (yi ЦИ yi-1 (Wi+1 (yq(i+1) (yi Кв (Wi+1 (Wi+1 ЦИ yi-1 (Wi+1 (yq(i+1) (yi (yi (yq(i+1) Э (yqi (yq(i+1)= (y эqi [pic] [pic] ЦИ (1 ЦИ (N См1 ... Vi(t ЦИ ( (Vi(t См1 См2 -((t ЦИ yi-1 (yi ЦИ k ( Zi+1(t -(yi(t ( ЦИ - ( ( ЦИ - yi(t X1(t XN(t (t ЦИ (1 ЦИ (N ... См ЦИ yi-1 ( ЦИ - ( X1(t ЦИ k ( Zi+1(t ( ЦИ - XN(t (t t t t t Vi yi Zi+1(t (k=1) Zi+1(t (k=0.5) [pic] (27) [pic] (30) (29) (28) [pic] [pic] [pic] (31) [pic] [pic] [pic] (32) [pic] (34) (36) (35) (33) [pic] [pic] [pic] [pic] [pic] (34) (35) (36) [pic] (37) (38) (39) Пространственный сумматор [pic] Временной сумматор [pic] Пространственный сумматор [pic] Vi(t yi(t . . . ((1 ((N (t (( (( (( (k Zi+1(t X1(i-1)(t XN(i-1)(t . . . [pic] (40) [pic] (41) [pic] (42) [pic] [pic] (43) (44) [pic] (45) [pic] (46) ЦИ1 (1 ЦИN (N См1 Кв Кв Кв ЦИ(N+1) ( (x1 (xN . . . . . . См2 ЦИ(N+2) y Кв Кв ЦИ(N+5) + k ЦИ(N+3) -( (Z ЦИ(N+4) -( Кв (t Рис.15.ЦНП с ЦИ с квантователями на входах Рис.16.ЦНП с ЦИ с квантователями на входах с переменными значениями параметров (t Кв ЦИ(N+4) -( (Z ЦИ(N+3) -( ЦИ(N+5) + k (k Кв ЦИ(N+2) y См2 . . . . . . (x1 ЦИ(N+1) ( ((N Кв Кв См1 ЦИN (N ЦИ1 (1 Кв ((1 Кв (( (x1 Кв (xN Кв (xN Кв Кв Кв -(( Кв -(( Рис.17.ЦНП с ЦИ с квантователями на выходах (t Кв ЦИ(N+4) -( (Z ЦИ(N+3) -( ЦИ(N+5) k Кв Кв ЦИ(N+2) y См2 . . . . . . (x1 ЦИ(N+1) ( ((N Кв Кв См1 (xN ЦИ1 (1 ((1 Кв ЦИN (N (( -(( Кв (k -(( Рис.18.ЦНП, промежуточный вариант (t ((1 ((N -(( -(( (( (k ЦИ(N+4) -( (t ЦИ(N+3) -( ЦИ(N+2) y y(t Кв ЦИ(N+5) k См2 . . . . . . (x1 ЦИ(N+1) ( (xN Vi(t Кв См1 ЦИN (N ЦИ1 (1 ( [pic] (47) [pic] (48) (49) [pic] (50) [pic] [pic] (51) [pic] (52) [pic] (53) [pic] (54) [pic] (55) [pic] (56) [pic] (57) [pic] (58) [pic] (59) [pic] (60) [pic] (61) [pic] (62) [pic] (63) [pic] [pic] (64) [pic] (65) [pic] (66) [pic] (67) [pic] (68) ЦИ1 (1 ЦИN (N . . . См Кв x1(t . . . xN(t r1 rN V(t V(t ((1 ( ((N БИС1 Рис. 19. БИС1, структурная схема Рис. 20. БИС2, структурная схема ЦИ5 k (( -(( -(( (k (y (y (t V(t r Кв См ЦИ4 y ЦИ2 –( ЦИ1 ( . . . ЦИ3 –( (z БИС2 [pic] [pic] [pic] (69) [pic] (70) [pic] (71) [pic] [pic] [pic] (72) [pic] (73) [pic] (74) (75) [pic] [pic] (76) [pic] (77) [pic] (79) Рг (1 См1 Мн1 См(N+1) ? ? ? Мнj Рг (j Смj . . . . . . МнN Рг (N СмN . . . (?1 x1(t (?j xj(t (?N xN(t r1 rN ? V ВБ F1 F2 Кв БН V(t V(t Z(t Sign Z Рис. 21. Базовый нейропроцессорный модуль, структурная схема [pic] (78) ? V F1 F2 БНМ ? ? ? ?1 ? ?N (?1 ? (?N r1 ? rm Рис. 22. Базовый нейропроцессорный модуль, условное обозначение ? ? (t x1(t x(N-2)(t -(? -(( ?i ?M V2j(t V1j(t g рV f gF1 g dF2 ББНМ 2 ?1=?( i-1) ? ?N (?1 ? (?N r1 ? rm V БНМ 1 ?1 ? ?N-2 ?N-1=-? ?N =-( (?1 (?N-2 (?N-1 (?N r1 ? rM Рис. 23. Цифровой нейроподобный процессор Рис. 24а. Коммутируемый БНМ г1 гМ ( (1 ( (N + 2 (1 (N + 2 (1 (N+2 Vi(t Vi(t Zi(t Sign Vi(t КБНМ ? ? ? ( V ВБ Z S См (N+2 (N+2 (1 (1 (1 ? (N+2 ( ((1 V ? ((N+2 Z r1 S ? rM (1 (1 ? ? (N+2 (N+2 ? ? БИС КБНМ Рис. 24б. КБНМ, условное обозначение БНМ ПС (t (t (t ((1 (’ ВБ2 V’ Рг А ? (N+3 ? См2 Рис. 25а. БНМ с перестраиваемой структурой г1 гМ ( (2 ( (N + 3 ( (2 (N+3 ? ( V ВБ1 Z S См1 К (2 ( (1 Рис. 25б. БНМ ПС, условное обозначение БИС КБНМ ПС (1 (’ ((1 V’ (2 ? (N+3 ((2 ? ((N+3 r1 ? rM ( А (N+2 ? ? (1 ? (N+2 ( V Z S ( V Z S (1 ? (N+2 Рис. 26. БНМ ПС, выполняющий функции ЦНП БИС КБНМ ПС (1=y i-1 (’ ((1 V’ (2=-( (3=-( (4 ? (N+3 ((2 ((3 ? ((N+3 r1 ? rM ( А (t x1(t xN-2(t –(( –(( “0” Страницы: 1, 2 |
|
© 2000 |
|