Нейросети думают как люди? Загадочное число 42 и почему его выбирают нейросети

Как нейросети выбирают случайные числа и насколько они случайны? Чем их выбор отличается от выбора людей? Почему так происходит и стоит ли на основании этого очеловечивать нейросети? Ну и разберём, а что такое случайное число с точки зрения математики.

Но начну я с личных приятностей. У меня сразу две хорошие новости: о конкурсе и премии.

"Василиск Роки" в шорт-листе конкурса "Проект особого значения" (Заслон),

а роман "Открыть за две минуты до полнолуния" в лонг-листе премии «Новые горизонты"

"Василиск Роки" — мой первый опубликованный рассказ про ИИ (хотя в закромах моих черновых набросков чего только не лежит. Я всё ещё надеюсь разобраться со всеми своими незавершёнками и приступить к большому роману про ИИ. Задумке уже два года, но она всё время видоизменяется под влиянием того, что становится известно про нейросети. Тема эта мне очень любопытна, и я продолжаю следить за всем, что происходит в индустрии. Самой интересно, во что в итоге превратится моя задумка (надеюсь, это всё-таки произойдёт).

Прежде чем перейти к нейросетям, сначала разберёмся, что такое случайное число с точки зрения математики. Ни в какие математические дебри мы не полезем, пройдёмся по самым верхам, за что сразу прошу прощения у математиков. Итак,

Случайное число — это число из определённого диапазона, у которого есть определённая вероятность выпадения.

Из определения вроде бы следует, что вероятность выпадения должна быть одинаковой для всего диапазона, иными словами, предсказать вероятность выпадения можно только случайно. Но это не так. Если дальше углубляться в те самые дебри, то мы узнаем, что распределения бывают разные и вычисляются довольно сложно. Но если мы просто будем условно случайно вынимать шарик из корзинки с номерами, то увидим, что чаще всего выпадают числа из середины диапазона.

Люди не шарики, и совершенно не должны подчиняться каким-то там математическим определениям (ха-ха, тут мы вступаем на зыбкую тропу спора о том, является ли математика абстрактной выдумкой человеческого мозга, или её законы всегда существовали и являются основой нашего мира, а человечество всего лишь их считало).

Так вот.

Всё это не означает, что нет людей, которые бы выбрали случайное число вопреки описанным выше закономерностям. Это означает, что на большом массиве данных (если взять большое число людей и попросить выбрать случайное число), тенденции будут именно таковы.

Казалось бы, нейросети должны выбирать числа как раз с разной вероятностью, потому что у них человеческих «предубеждений» против чисел: это слишком маленькое, это большое, это слишком круглое, это никак не «тянет на случайное». То есть в отличие от людей, которые добавляют числам характеристик, нейросети должны вести себя более рационально.

Но нет. Нейросети выбирают случайные числа точно также, как и люди.

Но почему? Спросит внимательный читатель. Ведь есть специальные математические алгоритмы, которые позволяют выбрать случайное число, выпавшее с равной вероятностью.

Но у нейросетей нет вшитых алгоритмов. Они самообучаются на больших массивах данных, иными словами «наблюдают» за людьми и, получается, перенимают их… предубеждения?

Иными словами, нейросеть действует не по алгоритму выдачи случайного числа (условного рандомайзера), а смотрит, какие числа чаще всего выбирали люди на просьбу выбрать случайное число, и повторяли. То есть чем чаще называли люди то или иное число, тем чаще его называла нейросеть.

Эксперимент провела компания Gramener, специализирующаяся на анализе данных для решения сложных бизнес-задач.

А подробнее про число 42 мы поговорим в следующей статье.

❓❓Как считаете, верное ли объяснение того, почему нейросети в выборе случайного числа ведут себя как люди?

❓❓Наблюдаете за развитием нейросетей?

❓❓Слышали про число 42?

❓❓Насколько подробно стоит рассказывать эту историю?

❓❓Как считаете, "любимое" случайное число 42 у нейросетей - это всё из-за Дугласа Адамса?

❓❓Читали "Автостопом по галактике"?

О случайных числах, нейросетях и людях вам рассказывала Есипова Оксана. Всех обнимаю!

Но не спешите уходить. Прежде чем выложить эту статью, в своём телеграм канале я попросила подписчиков написать любое случайное число от 0 до 100. Кстати, получилось весьма неожиданные результаты, и они плохо коррелируют с тем, что написано в статье. Понятно, что это потому что выборка маленькая, но всё равно интересно! Полюбопытствуйте сам, переходите по ссылке и подписывайтесь на канал. Есть и ещё причины на него подписаться: