Простой вопрос по нейронным сетям.

Пока не особо углублялся в суть проблемы, поэтому могу чего то не понимать…
При аппроксимации некоторой функции многих переменных нейронной сетью (алгоритмом обратного распространения), обязательно ли частные производные от выходного сигнала сети по компонентам входного будут равны (сходится к) соответствующим производным от аппроксимируемой функции?

Обучение проводится не на всей области определения функции, входной сигнал сети обладает некоторой симметрией и стоит вопрос об устойчивости полученного нейросетевого алгоритма случайным шумам которые накладываются на входной сигнал. Собственно вопрос: если набор желаемых откликов сети генерируется некоторой функцией от входного сигнала будет ли устойчивость выходного сигнала сети к шумам такой же как и «устойчивость этой функции»? можно ли как то модифицировать стандартный алгоритм обучения что бы улучшить устойчивость к шумам?

16 комментариев: Простой вопрос по нейронным сетям.

  • andrej говорит:

    С чего вы взяли, что входной сигнал сети симметричен, какова его симметрия? Какова предполагаемая устойчивость этой симметрии в зависимости от количества входных сигналов. Учитываете ли вы наложение одних сигналов на другие, как – возможен ли комплексный анализ или только один сигнал – один ответ и шумы?
    Насколько понятны мои вопросы?

  • delfina говорит:

    Какой кошмар!В организме человека все проще:рассмотрим рефлексы человека ввиде существенно дополненой рефлекторной дуги,а еще лучше,проще так, ввиде замкнутого кольца с обратной связью.Вот, эта обратная связь позволяет производить постоянную непрерывную коррекцию внесенных параметров при условии что в имеющемся рабочем органе имеются рецепторы информирующие рефлекторный орган о правильности выполненной команды. А вы это в цифрах записываете все?

  • andrej говорит:

    Дельфина, к вам вопрос. Как выполняется функция правильности, помимо сопоставления точности одного с другим пакетами параметров? Можете немного раскрыть вашу схему?

  • delfina говорит:

    Андрей, Я не знаю как с пакетными данными,а у чела сопоставление происходит примерно так: регуляция функций организма перемещается из нижних отделов ЦНС в кору,кот.в свою очередь начинает контролировать все процессы,протекающие в организме и вообще всю деятельность человека,Павлов,например,полагал что кора является распределителем всех функций и всей деятельности тела(здесь человек),короче это вместилище всей интеллектуальной жизни.Внимательно изучите систему действия и строение коры-там ответ на ваши ИНС.

  • rash говорит:

    Delfina,

    …это не биологические нейронные сети…..это компьютерные нейроные сети….

    Кохонена, АРТ, обратного распространения, «отжига», многослойные персептоны

    ..вы отвечаете про Фому а тут про Ерему…..

    ..и кора это отнюдь не вместилище всей интелектуальнной деятельности…..взгляните на модель полученную средствами компьютерной томографии мозга……

  • delfina говорит:

    Раш, Мой фома совершенный МЕХАНИЗМ,во всяком случае, в нашей галактике,круче только дельфины.

  • andrej говорит:

    Раш, безусловно, это разные вещи, но я лично считаю, что компьютерные нейронные сети должны стремиться к биологическим

  • rash говорит:

    Андрей,

    Пока слишком сложная задача

    «Колонка» мозга это шестислойная нейроная сеть

    а мозг состоит из этих колонок те это группы или ансабли таких сетей

    …разве что нейросеть из нанороботов вырастить…в Англии пробуют…..

  • rash говорит:

    Delfina,

    Механизм говорите ?

    А мой из живого вещества. =0)

  • delfina говорит:

    Андрей, Вот,культурный человек:)К сожалению с пакетными я вряд ли лизко познакомлюсь.Андрей,скажите,если не трудно:полупроводники широкое распространение имеют в данный момент,в частности нейронных сетей,извините если несу полную чушь.

  • delfina говорит:

    Раш, не смешите, в Вашем, биологическом, вся система Минделеева.

  • rash говорит:

    Delfina,

    Включая изотопы и 700 элемент ? =0)

    Дельфина да и Ботичели вы любите, хоть вероятно также любите выносить метафорами мозги

  • delfina говорит:

    Раш, Ботичели не обсуждается, а насчет выноса мозга правы-прямо какая-то не здоровая тяга. И главное здесь ни его,а сам процесс:)

  • delfina говорит:

    Конечно это сложно-(неокортекс)6 слоев итп,но,ведь,есть еще 5%палеокортекса( 3слойной структуры),более древней(прямо очень сильно древней) там процессы полегче звучат-между ее структурами имеются простые двусторонние связи и сложные пути,образующие множество замкнутых кругов.Походу эти круги,разного функционала,связывают палеокортекс со многими структурами ЦНС,что позволяет ей реализовывать функции,специфика кот. определяется включеной доп.структурой.Как пример: включение хвостатого ядра (многие считают что именно обилие этих ядер свидетельствует об их участии в интегративных процессах,организации и регуляции) в один из кругов палеокортекса определяет участие этой системы в организации тормозных процессов высшей нервной деятельности.Обилие связей паоеокортекса или ,проще,лимбической системы,со структурами ЦНС затрудняет выделение функций мозга,в которых бы она на принимала участия.

  • strange говорит:

    Андрей, Входной сигнал это показания фотоумножителей собирающих свет от вспышки (сцинтилляции), на выходе должны быть координаты сцинтилляции. Понятно что интенсивность света распределяется приблизительно симметрично относительно центра вспышки и убывает с расстоянием до него примерно по гаусиане, но зашумленность задачи очень велика…

  • strange говорит:

    Все таки напишу более подробно вопрос раз кто то это читает=)
    Происходит вспышка света, под ней находятся квадратные фотоумножители которые регистрируют весь свет который на них попал, нужно по показаниям с этих пятидесяти фотоумножителей найти координаты центра вспышки при условии что зашумленность велика.

    интересуют два способа решения этой задачи:

    1) На основе разных моделей можно оценить функцию распределения интенсивности света вспышки от расстояния до ее центра т.е можно смоделировать сцинтилляцию (вспышку) с центром в некоторой точке. Добавив модельный шум приближенный к реальному можно сгенерировать обучающее множество и обучить нейросеть определять центр сцинтилляции.

    2) Но есть другой простой алгоритм без нейросети, можно просто смоделировать сцинтилляции без шума с центрами в точках равномерно распределенных по всей области (т.е проинтегрировать функцию распределения интенсивности и рассчитать показания фотоумножителей для каждой сцинтилляции) и тогда в точке для которой модельные показания фотоумножителей минимально отличаются от реальных и будет центр сцинтилляции.

    оба метода основаны на предположении о том что реальный входной сигнал это модельная функция распределения интенсивности света вспышки плюс шум. Может ли нейронная сеть как то дать большую устойчивость к шумам по сравнению со вторым методом???

    у меня есть подозрение что второй алгоритм априори более точен чем любой другой основанный на вышеуказанном предположении… но может все же можно как то модернизировать процесс обучения нейросети что бы улучшить устойчивость к шумам???

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

*

Можно использовать следующие HTML-теги и атрибуты: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>

Декабрь 2018
Пн Вт Ср Чт Пт Сб Вс
« Окт    
 12
3456789
10111213141516
17181920212223
24252627282930
31  

Свежие комментарии