Википедия, Там вы найдете несколько полезных ссылок на документацию и проекты, которые также используют нейронные сети.

DWFрекомендацияНейронные сети для распознавания образов Крис Бишоп. Хотя, возможно, это не начальный текст. Norvig или онлайн-учебник (с кодом на Matlab!), Вероятно, будут более мягким введением.

Хорошим стартовым проектом будет OCR (оптическое распознавание символов). Вы можете сканировать страницы текста и передавать каждый символ по сети, чтобы выполнить классификацию. (Вы, конечно, должны сначала обучить сеть!).

Введение в нейронные сети Кевин Герни, который имеет хорошие отзывы об Amazon и утверждает, что является «очень доступным введением в одну из самых важных тем в когнитивной и компьютерной науке». Лично я не рекомендовал бы эту книгу как начало. Я могу понять только приблизительно 10% этого, но возможно это - только я (английский не мой родной язык). Я собираюсь посмотреть другие варианты из этой темы.

Код проекта.

Он проведет вас через основы к пониманию того, как они работают влегко понять способ и показывает, как использовать егоbrainnet библиотека для создания своей.

Книга Рауля Рохаса это очень хорошее начало (это также бесплатно). Также,Книга Хайкина 3-е изданиехотя и большого объема, очень хорошо объяснено.

которые сказали, что изучение биологии не является хорошей отправной точкой ... потому что в биологии много ненужной информации. Вам не нужно понимать, как работает нейрон, чтобы воссоздать его функциональность - вам нужно только имитировать его действия. Я рекомендую «Как создать разум» Рэя Курцвейла - это касается аспекта биологии, который имеет отношение к вычислительным моделям (создание симулированного нейрона путем объединения нескольких входов и запуска при достижении порога), но игнорирует такие нерелевантные вещи, как как нейрон на самом деле добавляет эти входы вместе. (Вы просто будете использовать + и неравенство для сравнения, например, с порогом)

Я должен также отметить, что книга на самом деле не о «создании ума» - она ​​сосредоточена только на распознавании иерархических образов / неокортекса. Я считаю, что общая тема обсуждалась с 1980-х годов, поэтому существует множество старых книг, которые, вероятно, содержат слегка устаревшие формы той же информации. Я прочитал старые документы, в которых говорится, что, например, система зрения является многоуровневым распознавателем образов. Он утверждает, что это относится ко всему неокортексу. Кроме того, возьмите его «прогнозы» с недоверием - его аппаратные оценки, вероятно, довольно точны, но я думаю, что он недооценивает, насколько сложными могут быть простые задачи (например, за рулем автомобиля). Конечно, он видел большой прогресс (и был частью этого), но я все еще думаю, что он слишком оптимистичен. Существует большая разница между искусственным интеллектом, способным успешно проехать милю в 90% случаев, по сравнению с 99,9 +%, которые может сделать человек. Я не ожидаю, что какой-либо ИИ будет действительно вести меня как минимум 20 лет ... (Я не считаю, что машины BMW, которые нужно «обучать» на реальных курсах, так как на самом деле они не играют одинаково игра)

Если у вас уже есть базовое представление о том, что такое ИИ и как его можно смоделировать, вам лучше перейти к чему-то более техническому.

Опорные векторные машины а такжеметоды ядра лучше для большего количества классов проблем, чем обратное распространение. Нейронные сети и генетические алгоритмы захватывают воображение людей, которые мало знают о современном машинном обучении, но они не являются современными.

Если вы хотите узнать больше об искусственном интеллекте и машинном обучении, я рекомендую прочитать книгу Питера НорвигИскусственный интеллект: современный подход, Это широкий обзор искусственного интеллекта и множества современных технологий. Он также расскажет об истории и старых техниках и даст вам более полное представление об основах ИИ и машинного обучения.

Нейронные сети довольно просты. Особенно, если вы используете генетический алгоритм для определения веса, а не правильное обратное распространение.

Вводный курс:Введение в нейронные вычисления Игоря Александра и Хелен Мортон.

Продвинутый курс:Нейрокомпьютинг от Роберт Хехт-Нильсен

ых сетей на реальном симуляторе, есть большая онлайн-книга (теперь вики) под названием «Вычислительная когнитивная нейробиология» вhttp://grey.colorado.edu/CompCogNeuro/index.php/CCNBook/Main

Эта книга используется в школах в качестве учебника и знакомит вас с множеством различных областей мозга, от отдельных нейронов до исполнительных функций высшего порядка.

Кроме того, каждый раздел дополнен «проектами» домашних заданий, которые уже закрыты для вас. Просто скачайте, следуйте инструкциям и смоделируйте все, о чем говорилось в этой главе. Программное обеспечение, которое они используют, Emergent, немного придирчиво, но невероятно надежно: я считаю, что это продукт более чем 10-летней работы.

В прошлом семестре я прошел его в классе старшекурсников, и это было здорово. Проводит вас через все шаг за шагом

Программирование Коллективного Разума Обсуждает это в контексте алгоритмов поиска и ранжирования. Также в коде доступноВот (в гл.4) концепции, обсуждаемые в книге, проиллюстрированы на примере Python.

откажитесь от любых представлений о том, что искусственные нейронные сети имеют какое-либо отношение к мозгу, но для некоторого сходства с сетями биологических нейронов. Изучение биологии не поможет вам эффективно применять нейронные сети; изучение линейной алгебры, исчисления и теории вероятностей. По крайней мере, вы должны ознакомиться с идеей базового дифференцирования функций, правилом цепочки, частными производными (градиент, якобиан и гессиан), а также с пониманием умножения и диагонализации матриц.

На самом деле то, что вы делаете, когда тренируете сеть, оптимизирует большую многомерную функцию (минимизирует меру ошибки по отношению к каждому весу в сети), и поэтому исследование методов нелинейной числовой оптимизации может оказаться поучительным. Это широко изучаемая проблема с большим количеством литературы за пределами нейронных сетей, и в Интернете доступно множество лекционных заметок по численной оптимизации. Для начала большинство людей используют простыеградиентный спуск, но это может быть намного медленнее и менее эффективным, чем более тонкие методы, такие как

Когда у вас есть основные идеи, вы можете начать экспериментировать с различными функциями «сжатия» в скрытом слое, добавляя различные виды регуляризации и различные настройки, чтобы ускорить процесс обучения. ВидетьЭта бумага для полного списка «лучших практик».

Одна из лучших книг на эту тему - Крис БишопНейронные сети для распознавания образов, На данном этапе он довольно старый, но все еще является отличным ресурсом, и вы часто можете найти использованные копии в Интернете примерно за 30 долларов. Глава нейронной сети в его новой книге,Распознавание образов и машинное обучениетакже довольно всеобъемлющий. Для особенно хорошего ориентированного на реализацию учебника,увидеть это на CodeProject.com которая реализует умную сеть, называемую сверточной сетью, которая ограничивает связность таким образом, что делает его очень хорошим при обучении классификации визуальных паттернов.

Машины опорных векторов и другие методы ядра стали довольно популярными, потому что вы можете применять их, не зная, какого черта вы делаете, и часто получаете приемлемые результаты. Нейронные сети, с другой стороны, представляют собой огромные проблемы оптимизации, которые требуют тщательной настройки, хотя они все же предпочтительнее для множества проблем, особенно для крупномасштабных задач в таких областях, как компьютерное зрение.

Вычислительный интеллект" невероятно полезным.

Основы нейронных сетей простой и легкий в освоении вводный учебник.

Справочник по теории мозга и нейронным сетям очень хорошо. Он содержит 287 статей, охватывающих исследования во многих дисциплинах. Он начинается с введения и теории, а затем показывает пути через статьи, чтобы наилучшим образом охватить ваши интересы.

Что касается первого проекта,Карты Кохонена интересны длякатегоризации: найдите скрытые отношения в вашей музыкальной коллекции,построить умного роботаили решитьПриз Netflix.

http://www.ai-junkie.com/ann/evolved/nnt1.html является четким введением в многослойный персептрон, хотя он не описывает алгоритм обратного распространения

Вы также можете взглянуть на generation5.org, которая содержит множество статей об искусственном интеллекте в целом и содержит несколько отличных текстов о нейронной сети.