Основы теории нейронных сетей



Сетью без обратных связей называется сеть,

  • все слои которой соединены иерархически
  • (Правильный ответ) у которой нет синаптических связей, идущих от выхода некоторого нейрона к входам этого же нейрона или нейрона из предыдущего слоя
  • у которой есть синаптические связи

Какие сети характеризуются отсутствием памяти?

  • однослойные
  • многослойные
  • с обратными связями
  • (Правильный ответ) без обратных связей

Входом персептрона являются:

  • (Правильный ответ) вектор, состоящий из действительных чисел
  • значения 0 и 1
  • вектор, состоящий из нулей и единиц
  • вся действительная ось (-?;+?)

Теорема о двухслойности персептрона утверждает, что:

  • в любом многослойном персептроне могут обучаться только два слоя
  • способностью к обучению обладают персептроны, имеющие не более двух слоев
  • (Правильный ответ) любой многослойный персептрон может быть представлен в виде двухслойного персептрона

Обучением называют:

  • процедуру вычисления пороговых значений для функций активации
  • процедуру подстройки сигналов нейронов
  • (Правильный ответ) процедуру подстройки весовых значений

Нейронная сеть является обученной, если:

  • при подаче на вход некоторого вектора сеть будет выдавать ответ, к какому классу векторов он принадлежит
  • (Правильный ответ) при запуске обучающих входов она выдает соответствующие обучающие выходы
  • алгоритм обучения завершил свою работу и не зациклился

Подаем на вход персептрона вектор a. В каком случае весовые значения нужно уменьшать?

  • всегда, когда на выходе 1
  • (Правильный ответ) если на выходе 1, а нужно 0
  • если сигнал персептрона не совпадает с нужным ответом
  • если на выходе 0, а нужно 1

Алгоритм обратного распространения заканчивает свою работу, когда:

  • величина ? становится ниже заданного порога
  • величина ?w для каждого нейрона становится ниже заданного порога
  • (Правильный ответ) сигнал ошибки становится ниже заданного порога

Метод импульса заключается в:

  • использовании производных второго порядка
  • (Правильный ответ) добавлении к коррекции веса значения, пропорционального величине предыдущего изменения веса
  • умножении коррекции веса на значение, пропорциональное величине предыдущего изменения веса

Паралич сети может наступить, когда:

  • (Правильный ответ) весовые значения становятся очень большими
  • размер шага становится очень большой
  • размер шага становится очень маленький
  • весовые значения становятся очень маленькими

Если сеть имеет очень большое число нейронов в скрытых слоях, то:

  • время, необходимое на обучение сети, минимально
  • (Правильный ответ) возможно переобучение сети
  • сеть может оказаться недостаточно гибкой для решения поставленной задачи

Дискриминантной функцией называется:

  • активационная функция, используемая в многослойном персептроне
  • функция, моделирующая пространство решений данной задачи
  • (Правильный ответ) функция, равная единице в той области пространства объектов, где располагаются объекты из нужного класса, и равная нулю вне этой области

При методе кросс-проверки считается, что множество обучающихся пар корректно разделено на две части, если:

  • ошибка сети на обучающем множестве убывает быстрее, чем на контрольном множестве
  • в начале работы ошибки сети на обучающем и контрольном множествах существенно отличаются
  • (Правильный ответ) в начале работы ошибки сети на обучающем и контрольном множествах практически не отличались

Если сеть содержит два промежуточных слоя, то она моделирует:

  • по одной выпуклой «взвешенности» для каждого скрытого элемента первого слоя
  • по одному «сигмовидному склону» для каждого скрытого элемента
  • (Правильный ответ) по одной выпуклой «взвешенности» для каждого скрытого элемента второго слоя
  • одну выпуклую «взвешенность»

Механизм контрольной кросс-проверки заключается в:

  • циклическом использовании множества обучающих пар
  • разделении множества обучающих пар на две части для поочередного запуска алгоритма обратного распространения то на одной, то на другой части
  • (Правильный ответ) резервировании части обучающих пар и использовании их для независимого контроля процесса обучения

Если в алгоритме обучения сети встречного распространения на вход сети подается вектор x, то желаемым выходом является

  • вектор y, являющийся эталоном для всех векторов, сходных с вектором x
  • двоичный вектор, интерпритирующий номер класса, которому принадлежит вектор x
  • (Правильный ответ) сам вектор x

«Победителем» считается нейрон Кохонена

  • (Правильный ответ) с максимальным значением величины NET
  • с минимальным значением величины NET
  • с минимальным значением величины OUT
  • с максимальным значением величины OUT

Если данный нейрон Кохонена является «победителем», то его значение OUT

  • является максимальным среди всех значений OUT нейронов слоя Кохонена
  • равно нулю
  • (Правильный ответ) равно единице

Метод аккредитации заключается в:

  • активировании двух нейронов, имеющих наибольшее и наименьшее значения NET
  • активировании группы нейронов Кохонена, имеющих максимальные значения NET
  • (Правильный ответ) активировании лишь одного нейрона Кохонена, имеющего наибольшее значение NET

Стратегия избежания локальных минимумов при сохранении стабильности заключается в

  • достаточно больших изменениях весовых значений
  • (Правильный ответ) больших начальных шагах изменения весовых значений и постепенном уменьшении этих шагов
  • малых начальных шагах изменения весовых значений и постепенном увеличении этих шагов
  • достаточно малых изменениях весовых значений

Для какого алгоритма более опасен сетевой паралич?

  • алгоритма обратного распространения
  • (Правильный ответ) алгоритма распределения Коши

Какова роль искусственной температуры при Больцмановском обучении?

  • для регулирования скорости сходимости алгоритма обучения
  • (Правильный ответ) при снижении температуры вероятно возможными становятся более маленькие изменения

Сеть Хопфилда заменяется на сеть Хэмминга, если:

  • необходимо ускорить время сходимости сети
  • необходимо повысить число запомненных образцов
  • необходимо обеспечить устойчивость сети
  • (Правильный ответ) нет необходимости, чтобы сеть в явном виде выдавала запомненный образец

Какими должны быть весовые значения тормозящих синаптических связей?

  • (Правильный ответ) равными величинами из интервала (-1/n,0), где n — число нейронов в одном слое
  • небольшими положительными числами
  • случайными отрицательными числами

Метод отказа от симметрии синапсов позволяет:

  • (Правильный ответ) достигнуть максимальной емкости памяти
  • обеспечить устойчивость сети
  • избежать локальных минимумов

Метод машины Больцмана позволяет сети Хопфилда:

  • (Правильный ответ) избежать локальных минимумов
  • ускорить процесс обучения
  • избежать сетевого паралича

Сеть ДАП называется адаптивной, если:

  • (Правильный ответ) сеть изменяет свои весовые значения в процессе обучения
  • любой нейрон может изменять свое состояние в любой момент времени
  • для каждого нейрона задается своя пороговая функция

Лотарально-тормозящая связь используется :

  • между слоями сравнения и распознавания
  • (Правильный ответ) внутри слоя распознавания
  • внутри приемника 1
  • внутри приемника 2

Процесс лотерального торможения обеспечивает, что

  • слой сброса снимает возбуждение с неудачно выбранного нейрона в слое распознавания
  • (Правильный ответ) в слое распознавания возбуждается только тот нейрон, чья свертка является максимальной
  • система автоматически решает вопрос о прекращении поиска необходимой информации

Если в процессе обучения некоторый вес был обнулен, то:

  • (Правильный ответ) он больше никогда не примет ненулевого значения
  • он обязательно будет подвергнут новому обучению

Приращение веса тормозящего входа данного постсиноптического нейрона зависит от:

  • выходного сигнала тормозящего пресиноптического нейрона и его возбуждающего веса
  • выходного сигнала возбуждающего пресиноптического нейрона и его тормозящего веса
  • (Правильный ответ) выходного сигнала возбуждающего пресиноптического нейрона и его возбуждающего веса

Чем различаются комплексные узлы, лежащие в разных слоях неокогнитрона?

  • (Правильный ответ) каждый слой комплексных узлов реагирует на большее количество преобразований входного образа, чем предыдущий
  • (Правильный ответ) каждый слой комплексных узлов реагирует на более широкую область поля входного образа, чем предыдущий

Какой тип обучения можно использовать при обучении неокогнитрона?

  • (Правильный ответ) «обучение без учителя»
  • (Правильный ответ) «обучение с учителем»

Обучение персептрона считается законченным, когда:

  • (Правильный ответ) ошибка выхода становится достаточно малой
  • достигнута достаточно точная аппроксимация заданной функции
  • по одному разу запущены все вектора обучающего множества

Алгоритм обучения персептрона является:

  • (Правильный ответ) алгоритмом «обучения с учителем»
  • алгоритмом «обучения без учителя»

Запускаем обучающий вектор Х. В каком случае весовые значения не нужно изменять?

  • если на выходе сеть даст 1
  • если на выходе сеть даст 0
  • (Правильный ответ) если сигнал персептрона совпадает с правильным ответом

Можем ли мы за конечное число шагов после запуска алгоритма обучения персептрона сказать, что персептрон не может обучиться данной задаче?

  • нет
  • (Правильный ответ) да
  • в зависимост от задачи

Сигналом ошибки данного выходного нейрона называется:

  • (Правильный ответ) разность между выходом нейрона и его целевым значением
  • производная активационной функции
  • величина OUT для нейрона, подающего сигнал на данный выходной нейрон

Метод ускорения сходимости заключается в:

  • умножении коррекции веса на значение, пропорциональное величине предыдущего изменения веса
  • (Правильный ответ) использовании производных второго порядка
  • добавлении к коррекции веса значения, пропорционального величине предыдущего изменения веса

Если два образца сильно похожи, то:

  • они могут объединиться в один образец
  • (Правильный ответ) они могут вызывать перекрестные ассоциации
  • они могут нарушать устойчивость сети

Отсутствие обратных связей гарантирует:

  • (Правильный ответ) устойчивость сети
  • сходимость алгоритма обучения
  • возможность аппроксимировать данную функцию

В алгоритме обучения обобщенной машины Больцмана вычисление закрепленных вероятностей начинается после:

  • запуска каждой обучающей пары
  • конечного числа запусков сети с некоторого случайного значения
  • (Правильный ответ) после запуска всех обучающих пар
  • после однократного запуска сети с некоторого случайного значения

В аналого-цифровом преобразователе весовые значения интерпретируют:

  • усилители
  • (Правильный ответ) сопротивление
  • напряжение

Если входной вектор соответствует одному из запомненных образов, то:

  • выходом распознающего слоя является соответствующий запомненный образец
  • (Правильный ответ) в распознающем слое возбуждается один нейрон
  • срабатывает блок сброса

Если в процессе обучения на вход сети АРТ подавать повторяющиеся последовательности обучающих векторов, то:

  • будет происходить циклическое изменение весов
  • с каждым новым повтором серии обучающих векторов будет происходить более тонкая настройка весовых значений
  • (Правильный ответ) через конечное число обучающих серий процесс обучения стабилизируется

В статистических алгоритмах обучения величина изменения синоптической связи между двумя нейронами зависит:

  • от разности между реальным и желаемым выходами нейрона
  • от уровня возбуждения пресиноптического нейрона
  • от уровня возбуждения постсиноптического нейрона
  • (Правильный ответ) изменяется случайным образом

Однонейронным персептроном размерность разделяемого пространства определяется

  • контекстом конкретной задачи
  • весовыми значениями
  • (Правильный ответ) длиной входного вектора
  • пороговым значением активационной функции

Однослойный персептрон решает задачи:

  • (Правильный ответ) аппроксимации функций
  • распознавания образов
  • (Правильный ответ) классификации

Теорема о «зацикливании» персептрона утверждает, что:

  • (Правильный ответ) если данная задача не представима персептроном, то алгоритм обучения зацикливается
  • если задача не имеет решения, то алгоритм обучения зацикливается
  • любой алгоритм обучения зацикливается

Все ли нейроны многослойного персептрона возможно обучить?

  • только нейроны первого слоя
  • да
  • (Правильный ответ) только нейроны последнего слоя

При методе кросс-проверки считается, что сеть начала переобучаться, если:

  • ошибка сети на контрольном множестве стала расти
  • алгоритм обратного распространения зациклился
  • (Правильный ответ) ошибка сети на контрольном множестве перестала убывать

Детерминистским методом обучения называется:

  • метод, выполняющий псевдослучайные изменения весовых значений
  • детерминированный метод обучения с учителем
  • детерминированный метод обучения без учителя
  • (Правильный ответ) метод, использующий последовательную коррекцию весов, зависящую от объективных значений сети

Есть ли вероятность того, что в алгоритме разобучения сеть «забудет» правильный образ?

  • (Правильный ответ) да
  • нет
  • в зависимости от задачи

В задаче коммивояжера каждый город представляется:

  • одним слоем нейронов
  • (Правильный ответ) строкой из n нейронов, где n — число городов
  • одним нейроном

Чем реакция комплексного узла на данный входной образ отличается от реакции простого узла, лежащего в том же слое?

  • (Правильный ответ) комплексный узел менее чувствителен к позиции входного образа
  • рецепторная зона комплексного узла гораздо больше рецепторной зоны простого узла
  • комплексный узел менее чувствителен к повороту и другим видам движения входного образа

Выходом выходной звезды Гроссберга является

  • мера сходства входного вектора с весовым вектором
  • номер класса сходных образов
  • (Правильный ответ) статическая характеристика обучающего набора

Искусственный нейрон

  • (Правильный ответ) имитирует основные функции биологического нейрона
  • по своей функциональности превосходит биологический нейрон
  • является моделью биологического нейрона

Чтобы избежать паралича сети, необходимо:

  • (Правильный ответ) уменьшить размер шага
  • увеличить размер шага
  • увеличить весовые значения
  • уменьшить весовые значения

В однонейронном персептроне размерность разделяющей гиперплоскости определяется:

  • (Правильный ответ) количеством входных значений
  • весовыми значениями
  • количеством выходных значений

В начальный момент времени выходом слоя распознавания является:

  • (Правильный ответ) нулевой вектор
  • единичный вектор
  • входной вектор

Активационной функцией называется:

  • функция, суммирующая входные сигналы нейрона
  • (Правильный ответ) функция, вычисляющая выходной сигнал нейрона
  • функция, распределяющая входные сигналы по нейронам
  • функция, корректирующая весовые значения

Память называется гетероассоциативной, если:

  • входной образ может быть отнесен к некоторому классу образов
  • входной образ может быть только завершен или исправлен
  • (Правильный ответ) входной образ может быть ассоциирован с другим образом

Память называется ассоциативной, если извлечение необходимой информации происходит по:

  • (Правильный ответ) по содержанию данной информации
  • имеющимся образцам
  • адресу начальной точки данной информации

Весовые значения тормозящих нейронов:

  • обучаются по дельта-правилу
  • обучаются по алгоритму, аналогичному алгоритму обратного распространения
  • (Правильный ответ) не обучаются

Добавление к коррекции веса значения, пропорционального величине предыдущего изменения веса, используется при методе:

  • (Правильный ответ) импульса
  • экспоненциального сглаживания
  • ускорения сходимости
  • добавления нейронного смещения

Фаза распознавания инициализируется:

  • в момент срабатывания слоя сброса
  • в момент возбуждения победившего нейрона в слое распознавания
  • (Правильный ответ) в момент подачи на вход входного вектора

Кодирование ассоциаций — это:

  • (Правильный ответ) «обучение с учителем»
  • процесс нормального функционирования сети
  • «обучение без учителя»

В статистических алгоритмах обучения искусственная температура используется для:

  • (Правильный ответ) управления размером случайных изменений весовых значений
  • минимизации целевой функции
  • уменьшения полной энергии сети

При стохастическом методе обучения , если целевая функция увеличивается, то:

  • (Правильный ответ) изменения весовых значений скидываются и производятся новые вычисления
  • объявляется, что сеть не может обучиться данной задаче
  • производятся повторные изменения весовых значений

В чем заключается отличие АРТ-1 от АРТ-2?

  • в АРТ-2 используется многослойная иерархия слоев
  • в АРТ-2 введен специальный механизм зависимости активности синапсов от времени
  • (Правильный ответ) АРТ-1 обрабатывает только битовые сигналы, а АРТ-2 — аналоговые

При обучении когнитрона обучаются:

  • все нейроны
  • только один нейрон в каждом слое
  • (Правильный ответ) только один нейрон в каждой области конкуренции

Какие из перечисленных ниже шагов в алгоритме обратного распространения являются шагами «прохода вперед»?

  • (Правильный ответ) вычислить выход сети
  • подкорректировать веса сети так, чтобы минимизировать ошибку
  • (Правильный ответ) выбрать очередную обучающую пару из обучающего множества; подать входной вектор на вход сети
  • повторять шаги с 1 по 4 для каждого вектора обучающего множества до тех пор, пока ошибка на всем множестве не достигнет приемлемого уровня
  • вычислить разность между выходом сети и требуемым выходом (целевым вектором обучающей пары)

Из слоя сравнения информация поступает в:

  • приемник 2
  • (Правильный ответ) слой распознавания
  • приемник 1
  • внешнюю среду
  • (Правильный ответ) слой сброса

Обучение сети встречного распространения является:

  • «обучением без учителя»
  • (Правильный ответ) «обучением с учителем»

При стохастическом методе обучения изменения весовых значений сохраняются, если

  • (Правильный ответ) они уменьшают целевую функцию
  • они увеличивают целевую функцию
  • в любом случае

В каком случае персептрон может обучиться решать данную задачу?

  • если задача имеет целое численное решение
  • (Правильный ответ) если задача представима персептроном
  • если задача имеет решение

Теорема о сходных персептронах утверждает, что:

  • найдутся задачи, которым персептроны не смогут обучиться
  • алгоритм обучения всегда сходится
  • (Правильный ответ) если данная задача представляет персептрон, то он способен ей обучиться

Сети прямого распространения — это:

  • (Правильный ответ) сети, у которых нет памяти
  • (Правильный ответ) сети, у которых нет соединений, идущих от выходов некоторого слоя к входам предшествующего слоя
  • сети, у которых есть память
  • сети, имеющие много слоев

Сеть ДАП называется негомогенной, если:

  • (Правильный ответ) для каждого нейрона задается своя пороговая функция
  • данному входному вектору можно сопоставить несколько альтернативных ассоциаций
  • ассоциированные вектора имеют разные размерности

К какому типу памяти относится ДАП?

  • адресной
  • автоассоциативной
  • (Правильный ответ) гетероассоциативной

Если сеть Хопфилда нашла среди запомненных ею образцов, образец соответствующий данному входному вектору, то сеть должна :

  • выдать на выходе заданный входной вектор
  • (Правильный ответ) остановиться в этом образце
  • выдать на выходе единицу

Каким образом можно уменьшить количество слоев когнитрона, не причинив ущерба его вычислительным свойствам?

  • путем введения вероятностных синоптических связей
  • путем перехода от одномерных слоев к двухмерным слоям
  • (Правильный ответ) путем расширения областей связи в последующих слоях

Самоорганизующиеся сети используются для:

  • (Правильный ответ) распознавания образов
  • аппроксимации функций
  • (Правильный ответ) классификации образов

Рецептивные области узлов каждой плоскости простых узлов

  • не пересекаются, но покрывают все поле входного образа
  • совпадают и покрывают все поле входного образа
  • (Правильный ответ) пересекаются и покрывают все поле входного образа

В каком случае сигнал OUT совпадает с сигналом NET для данного нейрона когнитрона?

  • если NET=0
  • (Правильный ответ) если NET?0
  • если NET?? где ? — заданное пороговое значение

Однонейронный персептрон с двумя входами:

  • выделяет замкнутую область
  • разделяет трехмерное пространство XOY на два полупространства
  • (Правильный ответ) разделяет плоскость XOY на две полуплоскости

Метод восстановления ассоциаций заключается в том, что:

  • определяется, являются ли два заданных вектора взаимно ассоциированными
  • (Правильный ответ) по частично зашумленному вектору восстанавливается вектор, ассоциированный с ним
  • по заданным векторам находятся ассоциации, их соединяющие

Сколько нейронов необходимо для реализации задачи коммивояжера, где n — число городов?

  • 2n нейронов
  • n! нейронов
  • (Правильный ответ) n2 нейронов
  • n нейронов

Значение активационной функции является:

  • (Правильный ответ) выходом данного нейрона
  • весовым значением данного нейрона
  • входом данного нейрона

При обучении персептрона предполагается обучение:

  • синоптических связей, соединяющих одновременно возбужденные нейроны
  • синоптических связей только «победившего» нейрона
  • (Правильный ответ) всех синоптических связей

Фаза поиска считается успешно завершенной, если:

  • (Правильный ответ) найдется нейрон, в котором запомнен образ, достаточно похожий на входной образ
  • весовые значения «победившего» нейрона из слоя распознавания будут подкорректированы согласно данному входному вектору
  • входному образу будет сопоставлен нейрон, в котором никакой информации еще не было запомнено

Если до начала процедуры обучения по алгоритму обратного распространения все весовые значения сети сделать равными, то

  • процесс обучения будет ускорен
  • (Правильный ответ) сеть, скорее всего, не обучится
  • процесс обучения будет замедлен

Модификация алгоритма обучения методом «чувства справедливости» заключается в:

  • блокировании нейронов, которые очень часто побеждают
  • (Правильный ответ) занижении весовых значений тех нейронов, которые очень часто «побеждают»
  • повышении весовых значений тех нейронов, которые очень редко «побеждают»

Скрытым слоем обобщенного многослойного персептрона называется:

  • (Правильный ответ) слой, не являющийся ни входным, ни выходным
  • слой, не производящий вычислений
  • слой, состоящий из элементов, которые только принимают входную информацию и распространяют ее по сети

Ортогонализация исходных образов позволяет:

  • избежать локальных минимумов
  • (Правильный ответ) обеспечить устойчивость сети
  • (Правильный ответ) достигнуть максимальной емкости памяти