Нейронные сети - Форум | Микроконтроллеры, электроника и программирование

Странное поведение нейросети

markata — Wed, 05 Feb 2025 07:09:32 +0000

Здравствуйте!

Запрограммировал нейросеть в соответствии со этой статьей. N слоев, M нейронов в каждом слое.

Делаю обучение. На вход много раз подаю вектор, например, такой: (2, 2, 0.1, 0.1, 0.1, 0.1, 0.1, 0.1, 0.1, 0.1), использую учитель, например, такой: (0.1, 0.1, 0.1, 0.1, 0.1, 0.1, 0.1, 0.1, 2, 2).

В результате на первом слове образуются одинаковые веса, такие, что сигма-функция от них = 0.5. То есть входной вектор просто сглаживается.

То же происходит и на прочих слоях, а на последнем веса такие, что формируют на выходе вектор-учитель.

То есть какой бы я не подал вектор на вход обученной сети, на выходе получаю "ОК".

В принципе, мне понятно, почему сеть так себя ведет. Но ведь так не должно быть.

Видимо, я что-то не понимаю, прошу помочь.

Клуб Нейронных Сетей

diamont1977 — Fri, 09 Feb 2024 10:15:41 +0000

569

Погрузитесь в мир нейросетей с Клубом Нейронных Сетей. С нами вы узнаете все о разработке, обучении и применении нейронных сетей.

Нейронные сети, тип алгоритма машинного обучения, в последние годы приобрели огромную популярность благодаря своей способности обрабатывать сложные данные и делать точные прогнозы. Эти программы, вдохновленные структурой и функциями человеческого мозга, изменили различные отрасли, такие как здравоохранение, финансы и технологии. В Клубе Нейронных Сетей(Neural NetWork Klub) мы исследуем мир нейронных сетей и углубимся в их применение, ограничения и будущие перспективы.

По своей сути нейронные сети состоят из взаимосвязанных узлов, называемых нейронами, которые обрабатывают данные посредством серии математических операций. Эти сети могут учиться и адаптироваться к новым данным, регулируя веса связей между нейронами с помощью процесса, называемого обратным распространением ошибки. Полученный результат представляет собой прогноз или решение, основанное на входных данных.

Поиск заказа с нейросетевым распознаванием и детекцией объектов на изображениях и видео.

powerok — Mon, 20 Jun 2022 11:29:28 +0000

Добрый день. Мы группа разработчиков, занимающихся нейросетями (как сверточными так и на базе трансформеров) в области компьютерного зрения. Имеем положительный опыт решения задач детекции, сегментации и др. В работе используем фреймворки Tensorflow и Pytorch. Имеем доступ к высокопроизводительным GPU ресурсам. При необходимости можем обеспечить встраиваемое решение.

Выполним для Вас разработку нейросетей, искусственного интеллекта и т.д., в различных направлениях.

Также возможно совместное сотрудничество.

Наша почта: ib@powerok.site

Сайт: powerok.site

Контактное лицо: Иван

Производная сигмоиды.

M1905 — Thu, 05 May 2022 14:22:48 +0000

Здравствуйте! Изучил Вашу статью про обучение нейронных сетей, единственное что не смог понять так это почему производная сигмоиды так рассчитывается - f'(x) = f(x) * (1 - f(x)).

Почему сигмоида?

robotech — Wed, 08 Dec 2021 10:05:17 +0000

Добрый день, хотел поинтересоваться, почему в большинстве практических примеров и в статьях и в книгах в качестве функции активации нейронов используется сигмоидальная функция?

Функция активации ELU

UniX — Tue, 15 Jun 2021 18:51:53 +0000

Всех приветствую,

хочу протестировать в качестве функции активации Exponential Linear Unit. Вопрос такой, что брать в качестве производной? Ведь функция по сути представляет из себя две разные функции для x<0 и x>0:

Книги по нейронным сетям

AI — Sun, 06 Jun 2021 14:53:34 +0000

Всем доброго дня, хочу поделиться своей подборкой литературы по теме нейронных сетей:

1. Michael Nielsen. Neural Networks and Deep Learning.

Онлайн-ресурс-книга.

2. Tariq Rashid. Make Your Own Neural Network.

Книга выделяется тем, что материал изложен очень доступно. То есть не надо быть кандидатом наук в области искусственного интеллекта, чтобы иметь возможность работать с этой книгой.

3. Каллан Роберт. Основные концепции нейронных сетей.

А вот с нее я сама когда-то начинала погружаться в мир НС. Отличный материал для начинающих.

4. Хайкин Саймон. Нейронные сети. Полный курс.

Фундаментальный труд, но в отличие от упомянутых выше здесь уже "легкости" не будет ) Много формул, терминов, для продвинутого уровня математической подготовки.

Чтобы не быть голословной, проведу эксперимент - беру эту книгу, открываю случайную страницу. Вот фото:

5. Адриан Роузброк. Deep Learning for Computer Vision with Python.

6. Ian Goodfellow. Deep Learning.

Илон Маск об этой книге: «Книга написана ведущими специалистами в этой области и представляет собой единственное полное изложение предмета». Думаю мои личные комментарии здесь уже не требуются )