Человеку, как и любому живому существу, совершенно естественно искать способы экономить энергию. Для разных ситуаций мы используем разные инструменты: руки, зубы, палки, колёса, молотки, микроскопы… Любой инструмент даёт нам специфические возможности и усиливает наши способности в какой‑то сфере.

Разные инструменты по‑разному влияют на жизнь: что‑то влияет мало и локально, а что‑то глобально делит жизнь на «до» и «после». Появление новых инструментов в той или иной степени меняет уклад жизни. Новый уклад жизни даёт возможности для создания новых инструментов. И так бесконечно по кругу.

Жизнь неоднородна, поэтому каждый вид инструментов имеет вариации: бочка, ведро, кастрюля, чашка, ложка и т. д. Удобно, когда инструмент многофункционален и может трансформироваться под ситуацию, настраиваться.

Так, брелок помогает идентифицировать ключ, открыть бутылку, подсветить замочную скважину и напомнить о прошлом путешествии. На одном и том же ткацком станке можно создавать разные узоры из нитей в зависимости от цели и заложенной программы. А компьютер можно превратить в инструмент писателя, музыканта, художника, бухгалтера, инженера и т. д.

Естественным результатом эволюции человеческой мысли в плане универсализации инструментов и экономии энергии стала разработка нейросетей. Причём люди не изобрели их, а, как это часто бывает, подсмотрели у природы.

Миллиарды лет природа использует нервные системы как универсальный инструмент обработки информации, независимо от вида животных и их жизнедеятельности. Полёт, плавание, рытьё нор, пение, охота и т. д. Нейросеть — это очень пластичный инструмент, который настраивается под огромный спектр задач. Поэтому он и закрепился в живых организмах.

Очень важно только учитывать различие элементной базы между биологическими и математическими нейросетями! Но об этом позже.

Нейросеть — хоть биологическая, хоть электронная — по сути представляет собой поисковую систему по архиву отпечатков сигналов, которые формируются в ней же при контакте с окружающей средой.

От каждого события, воспринимаемого рецепторами, по нейросети прокатывается эхо цепных реакций, и на некоторое время остаются шлейфы‑дорожки от них. Если событие хотя бы частично повторяется, то соответствующие шлейфы усиливаются. Это подобно появлению тропинки на газоне, где люди часто ходят. А некоторые события, вызывающие особо сильные реакции, сразу формируют прочные связи («асфальтированные» дорожки) между нервными клетками.

Чем больше выделена дорога, тем больше вероятность, что по ней будут ходить снова. Так же и с отпечатками событий в нейросети: все новые события мы воспринимаем через призму предыдущего опыта. Поэтому и на воду дуем, обжёгшись на молоке. А дело всего лишь в том, что часть эхо‑сигналов от вида кружки с жидкостью проходит по уже проторённым дорогам в сети нейронов — за счёт этого мы и распознаём признаки, напоминающие былое событие. Мозг срабатывает как поисковая система: находит следы прошлых событий, наиболее сильно связанные с поступающими вновь сигналами.

То же самое происходит и с текстами, изображениями, звуками и т. д. Если предъявить нейросети набор обучающих данных, то в ней сформируется обобщённая картина следов, некоторые из которых будут глубже других. Поэтому при последующей подаче запроса, например, в виде фразы «Книга лежала на…», мы с большей вероятностью получим от нейронов ответ «на столе», чем ответ «на стене». Ведь слова «книга» и «лежать» чаще встречаются рядом со словом «стол», а не со словом «стена».

По такому же принципу нейросеть выводит изображения и звуки, релевантные запросу.

Таким образом, нейросеть — не более чем статистическая поисковая машина по следам сигналов.

При этом нейросеть, так же как любой инструмент, предназначена для усиления каких‑то наших способностей, а именно способностей обрабатывать информацию, точнее — сопоставлять новые данные с имеющимися в опыте.

И вот здесь уместно вспомнить о разнице в элементной базе биологической и электронной нейросетей.

Биологические системы развивались собственно с начала жизни на планете в условиях сложнейших балансов всех природных процессов. Каждый штрих в поведении любого живого существа, каждая мысль, каждое чувство — это миллиарды лет истории, выраженные в тончайших взаимосвязях всего со всем. Корни каждого мотива — это плоть от плоти биосфера в полном её объёме.

В одном взгляде человека отражено всё, чем он живёт: луч солнца среди пасмурного дня, мечтательное предвкушение встречи с любимым человеком, необходимость позвонить по срочному делу, информация из документа, состояние здоровья, память о вчерашней прогулке, наставления родителей, недопитый чай, воробей на ветке, музыка в кафе… В жизни человека выражена вся жизнь планеты. И понимать его в этом может только тот, кто «варится» в том же. И быть человеком может, соответственно, только человек. Судить о человеке и судить человека может только человек.

В этом смысле электронная нейросеть — это лишь грубая, однобокая математическая модель микроскопической доли того, что представляет собой человек. Электронно‑математическая реализация оторвана от корней живой истории биосферы. Искусственная нейронка — это в определённом смысле аналог «резиновой женщины».

Пытаться видеть в нейросети (сугубо в её механизме) что‑то человеческое, а равно и интеллектуальное, — это такое же заблуждение, как искать душу скальпелем в пульсирующем сердце. Попытка измерять человеческие качества и поведение с помощью математической модели ничем не отличается от поиска «арийских» пропорций лица с помощью линейки. Просто другой инструмент, другой уровень.

Экскаватор сильнее человека, но экскаватор не человек, а лишь усилитель способности копать. Автомобиль быстрее, но он не человек, а увеличитель скорости. Конвейерный станок гораздо производительнее, но и он не человек, а множитель производительности. В библиотеке больше информации, чем в голове человека, но библиотека не человек, а расширенное хранилище. Компьютер оперативнее человека, но он тоже не человек, а ускоритель вычислений.

Так же и электронная нейросеть: она лишь ускоряет поиск информации, ускоряет сопоставление входных сигналов с отпечатками данных, введённых в неё ранее. И всё. Да, это мощнее, так же как экскаватор, автомобиль, станок, но не человечнее, не интеллектуальнее, не созидательнее и не живее.

И здесь критически важно понимать, ЧТО именно на самом деле генерирует нейросеть в качестве ответов, потому что из‑за большого сходства со структурой человеческого мозга и наполненности данными, созданными и отобранными людьми, нейросеть возвращает нам компиляции из тех же самых данных и на языке нашего мозга. Поэтому очень велика вероятность обмануться и проглотить ядовитую начинку в красивой оболочке, если не быть специалистом в том, с чем обращаешься к нейросети.

Это подобно приёму лекарств без понимания их работы и работы собственного организма. Кто‑то получил пожизненное воспаление кожи из‑за увлечения гормональным кремом. Кто‑то навсегда лишился обоняния, не понимая, как правильно лечить затяжной насморк. Кто‑то повредил печень, приняв неправильную дозу жаропонижающего.

Электронная нейросеть точно так же небезопасна, ведь она многократно усиливает тот подход, с которым мы обращаемся к ней. Она может быть полезна в рамках конкретного узкоспецифического дела, в котором человек сам эксперт. Но если он делает запрос, как обезьяна с гранатой, то и получит в результате 100 обезьян с гранатами. И ладно, если это просто глупая картинка для развлечения, но а если это проект, требующий безопасности и влияющий на судьбы людей?

Может ли нейросеть изобразить портрет несуществующего человека настолько реалистично, что его можно принять за настоящего? Сегодня мы, конечно, отвечаем: «Да». Так вот, точно так же она может изобразить что угодно другое. Например, альтернативную историю какого‑нибудь народа или биографию человека с подробным, очень реалистичным описанием фактов. Или альтернативные физические законы и явления с очень правдоподобными объяснениями. Но всё это будут лишь гиперреалистичные симуляции.

Любой ответ нейросети нужно правильно воспринимать как «художество» и не слишком ему доверять. Ведь когда ребёнок рисует портрет мамы с большими ушами и двумя пружинками из головы, то мы легко идентифицируем, что это неправда. А когда мы видим фото человека, даже, например, в порочащем его виде, то можем принять это за правду просто по причине похожести на реальность.

Другая опасность нейросетей — в том, что у человека, подсевшего на нейронки, постепенно атрофируется гормональный механизм, регулирующий творческое состояние, состояние поиска и анализа, состояние познавательных усилий и труда. Чем дольше деактивируются гормональные механизмы и формируется зависимость от сторонних средств, тем труднее потом восстановить нормальную работу мозга. Особенно если она нарушилась в детском возрасте. Деградация может быть необратимой.

Ещё опасность нейросетей кроется в разрыве эмпативных каналов, по которым передаётся опыт от человека к человеку. Когда мы видим, как человек рисует или танцует рядом с нами, то этот непосредственный опыт гораздо многограннее и глубже, чем просмотр видеозаписи с теми же действиями. И тем более не идёт ни в какое сравнение с автоматической генерацией нейросети. Когда мы наблюдаем, как живой человек придумывает задачу, решает её и реагирует на то, что получается или не получается, то мы включаемся с ним в психосоциальное поле и приобретаем определённый опыт в этом. А замена людей нейросетями уничтожает саму основу социального поля. Особенно это опасно в воспитании детей.

Если кто‑то подходит к нейросети с антигуманными мотивами, на чём, собственно, и зиждется западная идеология развития нейросетей, то и в этом нейросеть помогает, увеличивая мощность обработки данных. Она гораздо быстрее человека обнаруживает и сопоставляет паттерны (закономерности) в социальных явлениях и указывает пути наиболее вероятного и экономного достижения поставленных целей в этой сфере.

Не секрет, что в мировой политике нейросети используются для режиссирования и инсценирования событий. И здесь кроется разоблачение заблуждения о том, что частная жизнь простых людей не представляет интереса для большой политики. Отдельная жизнь «пешки» действительно несущественна, но миллионы стереотипных «пешек» — это влиятельная сила, которая прекрасно анализируется вдоль и поперёк, а затем направляется на любую переработку. В серой, казалось бы, массе обнаруживаются категории характеров, типовые реакции, системные взаимосвязи и чувствительные точки, нажимая на которые можно управлять социумом.

Можно перечислять ещё много опасностей нейросетей, но хочу проиллюстрировать сказанное примером из собственной практики.

Я много лет не занимался программированием, в моей сфере деятельности достаточно общих представлений об этом. А недавно понадобилось сделать на языке JavaScript браузерную игру для сайта. Я не знаю этого языка, но решил попробовать свои силы с нейросетью. Не стал заморачиваться ни с какими вариантами движков и воспользовался тупо Алисой.

Первое, с чем столкнулся, — это, естественно, необходимость сформулировать подробное техническое задание. В этом я достаточно силён. И могу сказать, что это первый фильтр, который не сможет пройти человек, не знающий основ программирования, интернет‑технологий и не имеющий опыта работы в этой сфере. Т. е. не стоит питать иллюзий, что нейросеть всё сделает за тебя.

Наоборот, если ты дурачок, то нейросеть усилит это.

На втором этапе я тестировал и анализировал коды, которые генерировала нейросеть. Вот здесь ещё ярче заработал эффект усиления. В тех местах программы, где я понимал происходящее, мне удавалось вовремя заметить недостатки и скорректировать их. Таким образом, увеличивалась скорость разработки. А в тех частях кода, которые были мне непонятны, начинала плодиться какая‑то чертовщина.

При попытках объяснить нейронке ошибки ситуация только усугублялась, хотя сетка постоянно увещевала, что «теперь всё будет работать гарантированно».

Параллельно ещё мелкие баги, как споры плесени, незаметно возникали в других частях программы и становились заметны, только когда большая часть программы была уже завязана на них. Т. е., если браться за переделку, то переделывать пришлось бы всё.

Изрядно намучившись несколько суток, я понял, что проще было бы написать игру самостоятельно. Там для опытного специалиста на самом деле было бы работы всего на полдня.

Открыл я чистый лист. Думал, сейчас возьму и, зная обо всех нюансах, напишу программу. И каково же было моё удивление, когда в голове оказался точно такой же чистый лист!

Т. е. за трое суток программирования через посредничество нейросети — можно сказать, на её метаязыке — мой мозг не усвоил ничего из языка JavaScript. В памяти остались только общие концепции о подходе к созданию игры.

Вот оно — быстрое отключение когнитивных функций и формирование привязки к нейросети!

Тогда наступил следующий этап работы. Пришлось браться за матчасть. И только по мере более тщательного изучения команд, алгоритмов и сгенерированных нейросетью строчек кода у меня сформировалось то, что называется знаниями. Ура!

Пересобрал программу игры с нуля, уже более экспертно поручая нейронке только отдельные маленькие участки кода, чтобы избавить себя от кропотливой писанины. Самостоятельно выстроил всё так, как мне надо. Потом закрепил и расширил опыт, создав вторую подобную игру.

———

Теперь уже на собственном опыте я понимаю, какие проблемы преумножают люди, отказываясь от собственной экспертности и доверяясь только нейросетям.

Надо знать главное. Нейросеть — это пластичный инструмент, усиливающий обработку любых данных. Когда мы ставим ей задачу, то вместе с этим передаём и своё представление, включая как знания, так и заблуждения. Нейронка усилит всё: и хорошее, и плохое. А заодно добавит ещё и своих галлюцинаций. При этом никакой ответственности за сделанное нести не будет.

Поэтому: с чем к ИИ придёшь — того в 100 раз больше и хлебнёшь.