Пару лет назад я попал на это видео и мой мир перевернулся.
И в этом я думаю главная наебка всего человечества.
Как программист в мире детерминированных кремниевых полупроводников могу сказать, что все, что я программировал - всегда реагировало на внешние обстоятельства, но так как того хотел я. Я выбирал это поведение - моя программа никогда не делала этого выбора. Она могла выбрать только из того, что я позволил выбирать. Да, я мог добавить немного энтропии в это поведение - скажем воспользовашись великим new Random().nextInt(); Но это так же воздействие внешней среды (для моей программы). Особенно, если это рендом взятый из random.org.
Другой факт из жизни. Дети Маугли. Дети по страной случайности выжившие благодаря заботе животных. Стали ли они в окружении родителей-животных сочинять музыку, писать стихи, лепить из глины, писать картины, размышлять о вечном, выдвигать гипотезы и опровергать их? Нет. Если повезет и такие детки до 3х лет были с родителями-людьми, то их можно будет хоть как-то адаптировать к жизни. Если нет - человеком разумным им не стать никак.
Итого само наличие мощной аппаратнрой части само по себе не приведет к тому, что там появятся привычные нашему виду смыслы. Это как супер геймерский компьютер неведомым образом попавший к старой бабушке бухгалтеру, которая на нем только Excel для отчетов да пасьянс Косынку гоняет. И никто не против. Не появится на этом компе никакая новенькая игрушка без участия заботливого внучка, внезапно зачастившего к бабушке.
Внутри мозга пока что не найдено штук принимающих решение. Все реакции - реакции на внешние раздражители. Любое новое раздражение сенсоров оставляет навсегда след, который поменяет способ реагирования в будущем. Получается весь накопленный опыт - это то, как не могла не действовать нейросетка на раздражители, которые не выбирала. Где тут я? Где тут моя свобода воли?
Я вижу сознание как инструмент, который безусловно помогает анализировать и собирать дополнительную информацию о мире, но в его алгоритмах нет никакого "это я выбрал" - есть только "ой, что-то делается - кажется это я". Сознание начало появляться не сразу. Первый год - осознание границ своего тела. До 3х лет - самосознание.
Представь себя маленьким бубусиком, накормленным, довольно играющимся своими руками. О, это что такое? Оно двигается! Ой, кажется это я двигаю. Прикольно как. Проблема только в том, что моторная кора отрабатывает на 500 мс раньше, чем это осознает сознание. И так в любом действии. Вначале реакция, а потом осознание. Сознанию было бы очень скучно просто пассивно наблюдать. Вот оно и приписало себе в какой-то момент времени что это оно решает и всем рулит. Хрен там!
Сознание, это как.... Представь себе робот пылесос. У него много программ. Как собирать пыль (елочкой, зигзагом, по кругу). Как находить док станцию. Как заряжаться. Как сигнализировать о переполнении мусором. И так далее. И есть на этом труженнике пылесосе - светодиодик, который умеет моргать разноцветными огоньками. И он не просто весело и рендомно моргает - так он сообщает о своих статусах владельцу. Модуль отвечающий за сбор информации и интерптерацию ее в череду разных огоньков - достаточно вездесущ. Этому модулю надо собирать информацию из разных других модулей о том, как они работают (или не работают). Этот модуль и есть наше сознание. Много знает. Но все постфактум. Наблюдая объясняет. Добавляя немного обратной связии с выходов на вход.
Как вот усилитель, если его выход направить осторожно на вход - он возбуждается и превращается в генератор сигналов любой формы, в зависимости от того как соединен выход со входом. Слышал жеж этот писк (возможно с эх-эх-эхо-эхо-эхом), когда микрофон близко поднести к динамику? Это оно и есть. Эта связь дает возможность нейросети обучаться самой от себя, даже если внешние раздражители приутихли и перестали удивлять. Наверное потому у сознания так же есть доступ к (им же) категоризированному прошлому и гипотетическому будущему.
Это приводит к решениям второго порядка. Не осонованным на стимулах полученных здесь и сейчас. Так говорят о штуках типа морали, ценностей, принципах, культуре... Но это всего лишь самовозбужденный усилитель, который издает определенный звук (сложный, красивый) но все же такой, который он не мог не создавать при всех тех условиях, которые с ним случались.
И да, я точно знаю, что отмотай мою нейросеть в прошлое, давай ей все те же стимулы-раздражения, она точно придет в совсем другое состояние. Задача о трех телах показычает, как сильно что-то незначительное влияет на будущее. А мы живем все же в мире квантовой механики. Роботы-труженики белки внутри наших заводов-клеток нашего тела, очень-очень близки к квантовым процессам т.к. являются молекулами. А процессы эти квантовые уже недетерменированы аж никак. И эта аппаратная часть этого мира - это снова не про мой выбор.
Я не выбирал ни время, когда я рожден. Ни место где я родился. Ни семью в которой прошли самых важжных первых три года становления моей нейросети. Я не выбирал ни тот опыт, который со мной случался после. Ни то как я реагировал на него. Ни то к каким смыслам я приходил в процессе переосмысления пережитого. Ни то как я пользовался этим знанием, чтобы преодолевать некоторые будущие атоматические реакции. Выбирал ли я людей, с которыми встречаюсь? Выбирал ли я квесты, которые мне приподносила жизнь? То, чему меня наполняли прочитанные мной книги? Выбирал ли я сами книги или просто реагировал на их содержимое в поиске того самого отклика моей нейросети? Выбирал ли я утром написать этот пост? Да я долго планировал его. Но я ли планировал? Или планирование происходило. Что я выбирал?
Мы много выбираем - это факт, но из вариантов, которые выбрать не можем. Если бы это было не так, тогда курильщики выбирали бы не курить. Алкоголики - не пить. Люди в депрессии выбрали бы не переживать боль. Бедные люди выбирали бы богатеть. Неумелые - образовываться. Больные - лечиться и выздоравливать.
Почему некогда богатый человек, объявивший себя банкротом и потерявший все свое состояние вскоре возвращает все свое состояние и даже преумножает его? Почему то же не может выбрать каждый бедный человек? Почему не каждый ребенок из бедной семьи вырывается из лап безысходности и громко заявляет этому миру своими достижениями? Потому, что никто нифига не выбирает на самом деле.
Все просто плывут по течению. Какие-то нейросети получают больше плюшек. Какие-то меньше. Это несправедливо, но это так. Но все они находятся в постоянном обмене. Богатые без бедных не возможны. Как нейроны в мозге. Каждый из них - целый завод, принимающий, обрабатывающий и передающий дальше информацию. Соединенный с множеством других нейронов. Сам по себе он вроде как ничего и не значит - капля в море. Но убери его и результат будет кардинально иным.
Представь теперь на секунду. В мозге человека 100 миллиардов нейронов. В мире ныне живущих 8 миллиардов, но когда-либо жило около 100 миллиардов. Ведь мы не изобретаем колесо с кажим новым поколением - мы пользуемся наработками ранее живших. Потому в моем понимании - они все живы. Их опыт закодирован в синапсах нашей культуры, науки, религии. Каждый человек - это нейрон. Все связаны друг с другом через несколько рукопожатий. Все обмениваются знанием, раздражают друга. О чем думает эта большая нейросеть? Каковы мысли у живого существа с 100 000 000 000 х 100 000 000 000 нейронов?
Бери попкорн. Смотри кино. Все происходит прямо сейчас.