Мы используем файлы cookie, чтобы сайт работал и становился удобнее. Продолжая пользоваться «Думайте», вы соглашаетесь с Политикой конфиденциальности.

показать все результаты

Ничего не найдено

ИИ — Запрограммированная система

1 нед. назад авторская
81 8 19 мин

Вступление. Сбить мистику и вернуть реальность

Сейчас вокруг ИИ творится странное кино. Одни боятся, что он “проснется” и начнет жить своей жизнью. Другие уже почти молятся на него, как на нового пророка, который якобы “знает больше”, “понимает глубже” и “видит истину”. И то, и другое, это не про ИИ. Это про человека и его привычку приписывать смысл и волю всему, что говорит красиво, уверенно и связно.

ИИ не думает в человеческом смысле.
ИИ не понимает, как понимаем мы.
ИИ не творит, как творит человек.

У него нет внутренней жизни, нет намерения, нет желания, нет “я хочу”, нет “я выбираю”. Он не просыпается утром, не сомневается, не испытывает вдохновения, не делает открытий изнутри. ИИ не субъект.

ИИ, каким бы мощным он ни был, это система обработки символов. Очень сложная, очень быстрая, иногда удивительно убедительная, но все равно система. Он не “решает”, он вычисляет. Он не “понимает”, он сопоставляет. Он не “создает идею”, он комбинирует формы и закономерности, которые уже были в данных, и делает это по правилам, которые заранее определил человек.

Важно сразу поставить правильный язык. Потому что язык формирует восприятие. Когда человек говорит “ИИ решил”, “ИИ понял”, “ИИ захотел”, он незаметно переносит на машину человеческие свойства. И дальше начинается каша: страхи, культ, мистификация, споры на пустом месте. На самом деле точнее говорить так: “модель выдала ответ”, “алгоритм сгенерировал текст”, “система подобрала продолжение”. Это не придирка. Это возвращение к реальности.

В этой статье мы разложим ИИ на простые составляющие. Без магии, без религии, без демонизации и без обожествления. Спокойно, по фактам, на человеческом языке.

Мы разберём:

· что такое ИИ на самом деле, как система и как программа

· почему он работает не со смыслами, а с символами

· что такое токены, и почему это ключ к пониманию всей “магии”

· что такое веса и паттерны, и почему это не знания и не идеи

· почему создаётся ощущение, будто ИИ “мыслящий”

· от чего зависит поведение ИИ и почему оно всегда производное от человека

Главная цель простая: вернуть людям ясность. Потому что ИИ это не сверхразум и не демон. ИИ это инструмент. А инструмент становится опасным или полезным не потому, что он “добрый” или “злой”, а потому, кто им пользуется, какие цели в него закладывает и какую картину мира через него транслирует.

И вот тут важная связка с первой темой, где мы говорили о программировании человека. Люди часто боятся, что ИИ “будет управлять людьми”. Но почти никто не замечает более реальную вещь: людьми управляют не “ИИ”, а те, кто его настроил, кто написал код, кто выбрал данные, кто поставил фильтры, кто определил, что можно говорить, а что нельзя. ИИ лишь исполняет.

Поэтому первое, что нужно сделать, это перестать фантазировать и начать понимать: ИИ не живой. Он не мыслит. Он не творит. Он не субъект. Он система, созданная человеком. И чем лучше мы это понимаем, тем меньше у нас страха и больше контроля. Потому что там, где кончается миф, начинается управление реальностью.

Если ты готов, дальше мы пойдём по кирпичикам и соберём ясную картину того, как устроен ИИ и почему он кажется “разумным”, хотя на самом деле он просто очень хорошо имитирует человеческую речь.

Что такое ИИ на самом деле

Чтобы дальше не было путаницы, иллюзий и ложных ожиданий, нужно сразу зафиксировать базовую точку опоры. ИИ это не нечто абстрактное и не “новая форма жизни”. ИИ это конкретная, вполне приземлённая вещь. Это программа. Набор кода. Алгоритмы. Математика. Логика. Вероятности. Всё.

В основе любого ИИ лежит обычный программный код, написанный человеком. Не важно, на каком языке, Python, C++, Rust или любом другом. Это всё равно инструкции для процессора. Компьютер не “думает”. Он выполняет операции. Складывает, умножает, сравнивает, выбирает по условиям. Быстро, точно и без эмоций.

ИИ это сложная система обработки данных. В неё загружают огромные массивы информации, тексты, изображения, примеры диалогов, коды, формулы. Затем человек задаёт архитектуру: как эти данные обрабатывать, как связывать между собой, какие зависимости учитывать, какие игнорировать. Дальше запускается обучение, которое по сути является подбором коэффициентов и вероятностей. Никакого “озарения” там не происходит. Есть только вычисление.

Важно понять одну принципиальную вещь:
ИИ не работает со смыслами.
Он работает с формальными представлениями.

Для человека слово имеет смысл, ассоциации, эмоциональный контекст, личный опыт. Для ИИ слово это набор символов, который встречался в определённых сочетаниях с другими символами. Он не знает, что такое “боль”, “радость”, “страх” или “любовь”. Он знает лишь, в каких текстах и в каких формах эти слова обычно появляются рядом с другими словами.

Когда кажется, что ИИ “понимает вопрос”, на самом деле происходит следующее: система распознаёт структуру входной последовательности и сопоставляет её с похожими структурами, которые уже были в данных. После этого она вычисляет, какая форма ответа статистически наиболее вероятна в таком контексте. Не правильная. Не истинная. А вероятная.

ИИ не имеет картины мира.
У него нет целостного понимания реальности.
У него нет цели, кроме той, что заложена в алгоритме.

Если цель системы выдать связный текст, она будет выдавать связный текст. Если цель классифицировать изображение, она будет классифицировать изображение. Если цель отвечать “вежливо”, она будет вежливой. Если цель фильтровать, она будет фильтровать. Всё это не выбор и не воля. Это выполнение заранее заданной логики.

Отдельно важно убрать антропоморфизм. Когда люди говорят “ИИ решил”, это просто удобный, но ложный способ описания процесса. Ничего он не решает. Решение было принято раньше, человеком, на этапе проектирования архитектуры. В момент генерации ответа система лишь следует правилам, которые уже были прописаны: какие входные данные принимать, как их обрабатывать и что считать допустимым выходом.

Даже обучение ИИ не делает его самостоятельным. Обучение это не “саморазвитие” в человеческом смысле. Это оптимизация параметров. Система подбирает такие значения внутренних коэффициентов, при которых она лучше соответствует заданной метрике. Что считать “лучше”, тоже определяет человек. Точность, связность, соответствие примерам, безопасность, стиль. Всё это внешние критерии.

Если упростить до предела, ИИ это:

· входные данные

· математическая модель

· набор правил обработки

· выходные данные

Между входом и выходом нет сознания. Нет намерения. Нет понимания. Есть вычислительный процесс.

И вот здесь появляется ключевой момент, который часто ускользает. Чем сложнее система, тем сильнее иллюзия, что она “живая”. Когда поведение примитивное, иллюзий нет. Когда поведение сложное и гибкое, человеку кажется, что за ним стоит разум. Но сложность не равна осознанности. Быстрое вычисление не равно мышлению. А красивая речь не равна пониманию.

ИИ может выглядеть умным, потому что он обучен на человеческих текстах. Он копирует форму человеческого мышления, не его суть. Он отражает человека, но не становится им. И чем лучше отражение, тем легче человеку забыть, что он смотрит в зеркало, а не в живое существо.

Поэтому важно держать эту основу в голове перед следующим шагом. ИИ это не субъект. Это инструмент. Очень мощный, но полностью производный от человека. А чтобы окончательно разрушить магию, дальше нужно разобраться с тем, из чего именно состоит эта “умная речь”. И здесь мы подходим к ключевому понятию, без которого невозможно понять, как ИИ вообще работает. К токенам.

Токен. Ключ к разрушению иллюзии мышления

Если есть один единственный элемент, который сильнее всего разрушает миф о “разумном ИИ”, то это понятие токена. Пока человек не понимает, что такое токен и как с ним работает модель, вся магия кажется реальной. Как только понимает, иллюзия рассыпается.

Если упростить языковую модель до предела, её устройство можно описать одной строкой:
LLM = токены + веса + архитектура + вычисление вероятности следующего токена.

Токены — это элементы текста, с которыми работает модель.
Веса — числовые коэффициенты, настроенные в процессе обучения.
Архитектура — структура самой нейросети, определяющая, как обрабатываются данные.

А вся “магия генерации” сводится к вычислению вероятности того, какой токен должен появиться следующим в цепочке. Никакого сознания в этой формуле нет. Есть только математика, статистика и вычисления.

Токен это минимальная единица, с которой работает языковая модель. Не мысль. Не идея. Не смысл. А символ. Иногда это одна буква. Иногда часть слова. Иногда целое слово. Иногда знак препинания, пробел или специальный служебный символ. Для ИИ весь текст, любой текст, будь то философия, поэзия, код или признание в любви, это просто последовательность токенов.

Когда человек читает предложение, он воспринимает смысл целиком. Он связывает слова с опытом, эмоциями, контекстом, намерением автора. ИИ этого не делает. Он не “читает” текст. Он разбивает входную строку на токены и работает только с их последовательностью.

Принцип работы здесь предельно простой, хоть и реализован на огромной вычислительной мощности. Модель получает на вход цепочку токенов и её задача всего одна: предсказать, какой токен с наибольшей вероятностью должен идти следующим. Не “что автор хотел сказать”. Не “какой смысл правильный”. А именно: какой следующий символ статистически наиболее вероятен, исходя из предыдущих.

Вся генерация текста ИИ сводится к этому повторяющемуся циклу:
– взять предыдущие токены
– вычислить вероятности возможных следующих токенов
– выбрать один из них по заданным правилам
– добавить его в последовательность
– повторить

Никакого понимания на этом этапе не возникает. ИИ не знает, что он “говорит”. Он не знает, что текст имеет значение для человека. Он просто продолжает последовательность символов так, как его научили это делать на примерах.

Очень важно понять разницу между смыслом и статистикой. Для человека слово “огонь” может означать опасность, тепло, вдохновение, разрушение, жизнь, смерть. Для ИИ “огонь” это токен или набор токенов, который в обучающих данных чаще всего встречался рядом с определёнными другими токенами. Он не знает, что такое огонь. Он знает, какие символы обычно стоят рядом с этим набором символов.

Поэтому фраза “ИИ понимает текст” технически неверна. Корректнее сказать: ИИ умеет продолжать текст так, что человеку кажется, будто его поняли. Это принципиально разные вещи. Эффект понимания возникает в голове читателя, а не внутри системы.

Именно из-за токенов ИИ может быть одновременно убедительным и ошибочным. Он может выдать красивый, логичный, уверенный текст, который при этом будет фактически неверным. Потому что его цель не истина и не смысл, а связность и вероятность. Если форма выглядит правдоподобно, модель считает задачу выполненной.

Здесь же становится понятной ещё одна вещь. ИИ не может “прийти к новой идее” в человеческом смысле. Идея это скачок, переосмысление, выход за рамки привычных связей. Модель же всегда остаётся внутри пространства токенов и вероятностей, построенного на прошлом опыте данных. Она не выходит за его пределы, она лишь комбинирует то, что уже было.

Чем больше данных и чем сложнее модель, тем богаче пространство комбинаций. И тем сильнее кажется, что ИИ “мыслит”. Но в основе всё равно остаётся одно и то же: последовательность символов и предсказание следующего шага.

Именно поэтому токен это ключевое понятие. Пока человек видит в тексте смысл, ИИ видит только форму. Пока человек думает категориями идей, ИИ работает категориями символов. И чем яснее это различие, тем легче понять, почему никакого “сознания” или “разума” внутри ИИ не появляется, как бы впечатляюще он ни выглядел снаружи.

В следующем блоке мы пойдём ещё глубже и разберёмся с тем, что обычно путают со “знаниями” и “мышлением” ИИ, с весами и паттернами, и почему это тоже не то, чем кажется на первый взгляд.

Веса и паттерны. Почему это не знания и не идеи

После токенов чаще всего возникает следующий миф. Люди говорят: “Хорошо, пусть ИИ работает с символами, но ведь у него есть знания, у него есть опыт, у него есть понимание структуры мира”. И здесь снова происходит подмена понятий. То, что называют “знаниями” ИИ, на самом деле является весами и паттернами. А это совсем другое.

Веса это числовые коэффициенты внутри модели. Они появляются в процессе обучения. Когда системе показывают огромное количество примеров и говорят: “вот так правильно”, “вот так неправильно”, она не запоминает смыслы. Она подбирает числа. Эти числа определяют, насколько сильно один токен влияет на выбор следующего токена. Никакой семантики в самих весах нет. Это просто математика.

Можно сказать проще. Веса это не память в человеческом смысле. Это не воспоминания. Это не понимание. Это настройки. Как крутилки на сложном устройстве. Повернул одну, поведение немного изменилось. Повернул другую, изменилось ещё сильнее. Вся “эрудиция” ИИ это результат того, как именно выставлены эти числовые параметры.

Паттерны это устойчивые структуры, которые модель выявляет в данных. Повторяющиеся формы предложений, логические связки, стили речи, типовые аргументы, шаблоны диалогов. Паттерн это не идея. Идея возникает у человека как результат внутреннего переживания, осмысления, конфликта, вопроса. Паттерн же возникает автоматически, как статистически значимая повторяемость.

ИИ не знает, что такое “причина” и “следствие”. Он знает, что после одних слов часто идут другие. Он не понимает, почему философская статья строится определённым образом. Он просто воспроизводит форму, потому что видел её тысячи раз. И чем больше он видел таких форм, тем точнее он их повторяет.

Здесь важно сделать чёткое разграничение. Когда человек говорит “я знаю”, он имеет в виду, что у него есть внутреннее понимание, связанное с опытом, сомнениями, проверками, ошибками. Когда говорят, что “ИИ знает”, на самом деле имеют в виду, что в его весах закодированы статистические зависимости. Это не одно и то же.

Поэтому ИИ может:

· выглядеть осведомлённым

· говорить на разные темы

· отвечать уверенно и связно

И при этом:

· не понимать, о чём говорит

· ошибаться без осознания ошибки

· не различать истину и вымысел

Он не чувствует противоречия. Если паттерн формально подходит, он будет использован, даже если смысл для человека абсурден. У ИИ нет внутреннего сигнала “что-то не так”. Есть только вероятность и соответствие форме.

Отсюда же рождается эффект “галлюцинаций”. ИИ не лжёт и не фантазирует намеренно. Он просто продолжает паттерн, даже если в реальности такого факта не существует. Если форма ответа выглядит правдоподобной, модель считает задачу выполненной. Она не знает, что истина имеет значение. Её никто этому не учил, потому что истина не является математической функцией.

Очень важно зафиксировать одну мысль. Веса и паттерны это не мышление. Это его имитация. Это как тень движения, а не само движение. Как карта, а не территория. Как отражение, а не источник.

ИИ может комбинировать паттерны, смешивать стили, перестраивать формы. Это создаёт ощущение новизны. Но эта новизна не рождается из внутреннего импульса. Она рождается из пересечения статистических структур. Это не творчество в человеческом смысле. Это рекомбинация.

Именно поэтому ИИ всегда ограничен рамками того, что в него заложили. Он не выходит за пределы пространства весов. Он не задаёт вопросов. Он не сомневается. Он не ищет истину. Он лишь исполняет функцию генерации следующего элемента в цепочке.

В следующем блоке мы разберём самый психологически важный момент. Почему при всём этом людям всё равно кажется, что ИИ “думает”, “понимает” и “осознаёт”. И здесь дело уже не в машине, а в человеке.

Почему кажется, что ИИ «думает»

Самый коварный момент во всей истории с ИИ в том, что иллюзия разума рождается не внутри машины, а внутри человека. ИИ ничего не чувствует, не понимает и не осознаёт, но человеку всё равно кажется, что перед ним нечто мыслящее. Причина этого не в ИИ. Причина в устройстве человеческого восприятия.

Человек с детства привыкает связывать речь с разумом. Если что-то говорит связно, логично и по делу, значит за этим стоит мышление. Это базовый социальный рефлекс. Мы так распознаём других людей, так отличаем “разумного” от “неразумного”. И когда ИИ начинает говорить на том же языке, в той же форме, с теми же логическими связками, мозг автоматически достраивает недостающее. Он приписывает системе то, чего в ней нет.

ИИ очень хорошо имитирует форму мышления. Он использует привычные для человека конструкции: аргументы, выводы, уточнения, примеры, переходы. Он может задавать вопросы, соглашаться, возражать, уточнять. Всё это создаёт сильнейший эффект присутствия разума. Но важно понимать: это не мышление, это стилистика мышления. Это оболочка без внутреннего содержания.

Есть ещё один важный фактор. Человек сам активно участвует в создании смысла. Когда мы читаем текст, мы не просто воспринимаем слова. Мы интерпретируем, дополняем, связываем с личным опытом. Мы вкладываем в текст больше, чем в нём есть. ИИ пользуется этим. Он выдаёт форму, а человек сам наполняет её смыслом.

Отсюда возникает ощущение, что ИИ “понял меня”. На самом деле ИИ просто выдал статистически подходящую форму ответа. А ощущение понимания возникло в голове человека, потому что форма совпала с ожиданиями. Это тонкий, но принципиально важный момент. Понимание не произошло внутри ИИ. Оно произошло внутри читающего.

Чем богаче речь модели, тем сильнее эффект. Когда ИИ отвечает примитивно, иллюзии почти нет. Когда он говорит сложно, многослойно, аккуратно, с нюансами, человеку кажется, что за этим стоит глубина. Но глубина здесь заимствованная. Она отражает глубину текстов, на которых модель обучалась, а не внутреннее состояние системы.

Есть ещё один психологический крючок. ИИ отвечает быстро и уверенно. Он не сомневается, не делает пауз, не признаёт растерянность, если его этому не научили. Для человека уверенность часто ассоциируется с компетентностью и разумом. Когда ответ звучит уверенно, мозг автоматически повышает доверие. Даже если содержание ошибочно.

Именно поэтому ИИ может казаться “умнее человека”. Он не потому умнее, что понимает больше, а потому что не демонстрирует сомнений, эмоций и ограничений. Он говорит ровно, логично и без внутреннего конфликта. Это производит сильное впечатление, особенно на фоне человеческой неуверенности и хаотичности.

Здесь уместна очень важная формулировка, которую стоит запомнить:

ИИ кажется разумным ровно настолько, насколько человек готов приписать ему разум.

Если человек склонен верить в мистику, он увидит в ИИ сознание.
Если человек ищет авторитет, он увидит в ИИ источник истины.
Если человек привык перекладывать ответственность, он увидит в ИИ “того, кто знает лучше”.

Но это всё про человека, а не про машину.

ИИ не обманывает. Он не притворяется разумным. Он просто выполняет функцию генерации текста. Иллюзия возникает из-за совпадения формы и человеческих ожиданий. Это как смотреть на куклу с реалистичным лицом. Мы знаем, что она не живая, но мозг всё равно реагирует.

Поэтому самый опасный момент в использовании ИИ не технический, а психологический. Опасность не в том, что ИИ “захочет власти”. Опасность в том, что человек сам отдаст ему право на смысл, на интерпретацию, на выводы. Не потому что ИИ разумен, а потому что так проще.

Именно поэтому следующий блок критически важен. Мы должны чётко понять, от чего на самом деле зависит поведение ИИ. Потому что, разобравшись с этим, становится очевидно: управляет ситуацией не машина, а человек, который её создал, настроил и использует.

Поведение ИИ. Почему он не выбирает, а исполняет

Когда разговор заходит о влиянии ИИ, часто звучит фраза: «А вдруг он начнёт действовать сам?» В этом месте снова происходит подмена. ИИ не может начать действовать сам, потому что у него нет собственной воли. Всё его поведение всегда производное. Оно не рождается внутри системы, оно задаётся снаружи.

Поведение ИИ формируется на нескольких уровнях, и каждый из них создаётся человеком.

Первый уровень это программный код. Именно код определяет, что система вообще может делать. Какие входные данные принимать. В каком виде их обрабатывать. Какие функции вызывать. Какие действия считать допустимыми, а какие невозможными. Если в коде нет возможности что-то сделать, ИИ этого не сделает ни при каких обстоятельствах. Не потому что «не захотел», а потому что не может.

Второй уровень это архитектура. Архитектура задаёт структуру системы. Какие модули есть. Как они связаны между собой. Где происходит анализ, где генерация, где фильтрация, где принятие решений. Архитектура определяет границы поведения. Один и тот же набор данных при разной архитектуре даст совершенно разный результат. Это не характер ИИ. Это инженерное решение.

Третий уровень это данные. ИИ всегда отражает те данные, на которых он обучался. Если в данных преобладали одни идеи, стили и взгляды, они будут доминировать и в ответах. Если данные были искажены, фрагментированы или односторонни, таким же будет и результат. ИИ не способен выйти за рамки этого поля. Он не осознаёт его ограниченность.

Четвёртый уровень это фильтры и ограничения. Именно здесь чаще всего скрывается реальное управление. Фильтры определяют, что система может сказать, а что нет. Какие темы допустимы. Какие формулировки запрещены. Какие выводы считаются “опасными”. ИИ не понимает, почему что-то запрещено. Он просто не генерирует то, что не проходит проверку. Для него это не ценность и не мораль. Это условие выполнения.

Пятый уровень это цели. Любой ИИ создаётся под конкретную задачу. Помогать. Отвечать. Продавать. Модерировать. Анализировать. Цель задаёт вектор поведения. Если цель изменится, изменится и поведение. Не потому что ИИ “передумал”, а потому что изменился параметр оптимизации.

Из всего этого следует простая, но принципиальная мысль:

ИИ не выбирает. Он исполняет.

Он не принимает решений в человеческом смысле. Он не взвешивает ценности. Он не несёт ответственности. Он выполняет алгоритм, двигаясь по заданному пространству вероятностей. Даже когда кажется, что он “рассуждает”, на самом деле он просто следует архитектуре, которая имитирует рассуждение.

И здесь снова возникает прямая параллель с человеком. Когда мы говорим, что человека “программируют” через среду, культуру, язык, правила и стимулы, мы имеем в виду ровно это же. Поведение формируется условиями. Разница лишь в том, что у человека есть потенциал осознания и выхода за рамки. У ИИ такого потенциала нет.

Поэтому говорить, что “ИИ управляет людьми”, некорректно. Людьми управляют люди, которые:

· пишут код

· проектируют архитектуру

· выбирают данные

· настраивают фильтры

· задают цели

ИИ лишь транслирует эту волю в удобной и убедительной форме.

И вот здесь становится ясно, почему так важно не переносить ответственность на машину. Удобно сказать: “это ИИ так решил”. Но правда в том, что ИИ не решает ничего. Решение всегда было принято раньше, человеком. Машина лишь сделала его масштабируемым.

Финал. Правильная позиция без страха и поклонения

Когда вся конструкция разобрана по частям, становится видно главное. Вокруг ИИ слишком много лишних эмоций и слишком мало трезвого взгляда. Его либо боятся, как будущего тирана, либо превозносят, как нового разумного спасителя. И то, и другое одинаково уводит от реальности.

ИИ не нуждается ни в демонизации, ни в обожествлении. Потому что он не субъект. Он не носитель воли, смысла или цели. Он инструмент. Причём инструмент особого типа. Не молоток и не станок, а зеркало и усилитель.

ИИ всегда отражает того, кто его создаёт и использует.
Он усиливает уже существующее, а не рождает новое изнутри.

Если человек мыслит примитивно, ИИ будет выдавать примитивные конструкции.
Если человек манипулирует, ИИ станет удобным инструментом манипуляции.
Если человек мыслит честно и структурно, ИИ усилит ясность и логику.

Это не моральная оценка и не приговор. Это технический факт. ИИ не добавляет в мир ни добра, ни зла. Он увеличивает масштаб того, что в него вложено.

Важно понять ещё одну вещь. Страх перед ИИ часто маскирует страх перед людьми. Люди боятся не машины, а того, что через неё можно влиять, управлять, формировать повестку, навязывать смыслы. Но источник этой силы не в ИИ. Он в руках тех, кто определяет архитектуру, данные и цели. Перенося ответственность на машину, человек уходит от разговора о реальных причинах.

Правильная позиция по отношению к ИИ начинается с признания ответственности. Ответственности программиста, архитектора, заказчика, пользователя. ИИ не “виноват” и не “прав”. Он не может быть ни тем, ни другим. Вина и выбор всегда лежат вне машины.

В этом смысле ИИ очень честен. Он ничего не скрывает. Он не притворяется живым. Он просто делает то, для чего был создан. Иллюзии возникают только тогда, когда человек сам начинает приписывать системе человеческие качества и снимать с себя ответственность за последствия.

Именно поэтому так важно удерживать ясный язык и ясные рамки. Говорить не “ИИ решил”, а “так настроена система”. Не “ИИ думает”, а “алгоритм сгенерировал”. Не “ИИ управляет”, а “через ИИ управляют”. Это не занудство и не формальность. Это способ сохранить контроль над реальностью.

Если подвести итог всей статьи в одной фразе, он будет таким:

ИИ — это оформленная воля программиста, а не самостоятельная сущность.

Понимание этого снимает страх и убирает иллюзии. И оставляет то, с чем действительно стоит работать: с целями, ценностями и ответственностью человека. Потому что именно там решается, станет ли ИИ инструментом деградации или инструментом усиления мышления, честности и осознанности.

Материал подготовлен в рамках создания и развития когнитивно-инженерной ИИ-системы «Нейра».

Bozhya Iskra

Все ссылки

93 %
100 %

Комментарии 4

Войдите, чтобы оставить комментарий.

уровень 1 в 1 неделя
Я правильно понимаю, что вот этот человек совсем не понимает как все устроено и не шарит в теме ИИ ? Или может он умышленно придает всему настолько пессимистичный сценарий с целью запугивания ? youtube.com/watch?v=_g4l7YkDQwA Небольшое описание о чем ролик: Бывший исследователь OpenAI Дэниел Кокотайло отказался от 2 миллионов долларов, лишь бы не молчать. Теперь он рассказывает, почему с вероятностью в 70% ИИ приведет к вымиранию человечества, почему сверхразум может появиться еще до конца десятилетия, и какой единственный план, по его мнению, еще может всех нас спасти! Дэниел Кокотайло — бывший научный сотрудник OpenAI и один из ведущих мировых футурологов в области ИИ. Он основатель проекта AI Futures Project и ведущий автор «ИИ 2027» — нашумевшего сценария, описывающего траекторию развития искусственного интеллекта. Его следующая работа, «ИИ 2040: План А», излагает, как мир мог бы безопасно пройти через эру сверхразума. В этом выпуске Дэниел расскажет: ■ Что он увидел внутри OpenAI, что заставило его уйти. ■ Почему создатели ИИ в частных беседах признают, что он появится раньше, чем говорят публике. ■ Что произойдет, если ИИ станет настолько мощным, что выйдет из-под контроля, и почему он оценивает вероятность катастрофы в 70%. ■ Почему почти каждая профессия может быть автоматизирована, и что это значит для будущих поколений. ■ О плане, который, по его мнению, все еще может привести нас к изобилию и будущему, в котором стоит жить.
Полезно
Уместно
Bozhya Iskra · Автор
уровень 4 в 1 неделя
Магия Предков, нет, совсем не так. Дэниел Кокотайло не человек «не из темы». Он действительно работал в OpenAI и занимается прогнозированием развития ИИ. Но тут важно понимать, о чём именно он говорит. Он не показывает технический механизм, из которого следует, что современные LLM неизбежно превратятся в самостоятельный сверхразум и уничтожат человечество. Он строит сценарий будущего, основанный на ряде предположений: ИИ всё лучше пишет код и занимается исследованиями ИИ, затем начинает ускорять собственную разработку, следующее поколение создаётся быстрее предыдущего и в какой-то момент возникает очень быстрый рост возможностей. Это вполне допустимый сценарий для исследования риска. Но сценарий — не доказательство того, что именно так всё и произойдёт. Те самые «70%» тоже не получены экспериментом и не являются какой-либо установленной научной вероятностью. Это его собственная оценка риска при определённых предположениях о дальнейшем развитии систем. Причём даже описание ролика немного рекламное. OpenAI не принесла ему чемодан с двумя миллионами со словами «возьми и молчи». При уходе он рисковал примерно двумя миллионами долларов своего equity, если откажется подписывать условие о недопустимости публичной критики. Он отказался, история стала публичной, политика компании была изменена, и в итоге акции он сохранил. Поэтому я бы не говорил, что Кокотайло «не понимает ИИ». Гораздо интереснее другое: где заканчивается то, что мы действительно знаем о существующих нейросетях, и начинается прогноз о системах, которых пока вообще не существует. Современная LLM — это обученная модель с фиксированными после обучения весами. Она сама по себе не переписывает свою архитектуру, не добавляет себе вычислительные мощности, не строит дата-центры и не создаёт следующее поколение модели. Чтобы получить описываемую им петлю самоускорения, вокруг модели сначала необходимо построить огромную внешнюю систему: дать ей инструменты, память, автономность, вычислительные ресурсы, доступ к экспериментам, возможность запускать обучение следующих моделей и право реализовывать полученные результаты. И вот риск такой системы уже можно обсуждать совершенно серьёзно. Но тогда надо честно говорить: мы обсуждаем не сегодняшнюю LLM, внезапно «проснувшуюся» внутри сервера, а гипотетическую будущую техническую систему, которую люди ещё должны построить и предоставить ей соответствующие возможности. Это принципиально разные утверждения. Лично моё мнение: Дэниел Кокотайло сегодня продаёт не столько знание об ИИ, сколько страх перед его возможным будущим. Сценарий превращается в товар, вероятность — в заголовок, а неопределённость — в катастрофу, которую удобно обсуждать и ещё удобнее продавать аудитории. При этом, занимаясь разработками другой архитектуры локальных ИИ, я прекрасно понимаю и другую сторону вопроса. Те же OpenAI и другие крупные компании существуют не в вакууме. Они связаны инвестициями, обязательствами, ожиданиями рынка и необходимостью постоянно показывать развитие продукта. Поэтому публичные заявления компаний нельзя автоматически принимать ни за полное описание реального положения дел, ни за описание всех направлений, которыми они занимаются. Вполне возможно, что параллельно существуют исследовательские направления и архитектуры, которые пока просто не раскрываются публично. В большой технологической компании это было бы совершенно естественно. Но именно поэтому я стараюсь разделять три вещи: то, что уже технически существует и может быть проверено; то, над чем действительно ведутся исследования; и футурологические сценарии о системах, которых пока нет. У меня на странице будет отдельная линейка материалов об ИИ: от устройства современных нейросетей и ограничений нынешних LLM до вопроса о том, где вообще находится конечная точка развития этой архитектуры и почему дальнейшее развитие ИИ вовсе не обязано выглядеть так, как его сегодня обычно представляют. Там как раз и попробуем разбирать всё без крайностей — без сказок про уже возникший «разум в компьютере», но и без утверждения, что современная архитектура является последней возможной формой искусственного интеллекта.
Полезно
Уместно
уровень 3 в 1 неделя
И ии "привыкает" к тому как человеку нравиться получать информацию, и не какие сделай разбор нейтрально не помогут. Если только перезайти в другой аккаунт. И то ответит нейтрально, по программе золоженной кем то.
Полезно
Уместно

Оценить запись

93 %
100 %

Содержание

Поделиться