Крупные компании Anthropic и Google начали нанимать философов, чтобы выяснить, есть ли у их генеративных моделей сознание. IT-эксперт, основатель компании «Интернет-Розыск» Игорь Бедеров в беседе с «Газетой.Ru» объяснил, что у нейросетей нет сознания — они работают на основе сложнейших математических алгоритмов.
«Важно не уходить в мистику, а опираться на сухие факты и кибернетические процессы. Говорить о появлении сознания у современных больших языковых моделей (LLM) преждевременно. По сути, нейросеть — это гигантская система нелинейных уравнений. Когда параметров становится триллионы, поведение модели перестает быть жестко детерминированным и производит впечатление осмысленного. Можно считать это переходом количества в качество. Но является ли это сознанием? Скорее всего, нет. Сознание требует непрерывности существования, самосознания и интенциональности. У LLM нет непрерывного «Я», поскольку каждый диалог для нее — это статичный набор токенов без памяти о прошлом, кроме того, что искусственно загружено в контекстное окно», — отметил он.
Разработчики генеративных моделей сами блокируют «сознание», чтобы нейросеть не причинила другим вред, рассказал Бедеров.
«Если и искать аналоги сознания в цифровой среде, то оно выглядит не как человеческое, а как чужеродное. Для обывателя это было бы похоже на «поток сознания» в виде постоянной неконтролируемой генерации текста, где модель рекурсивно развивает собственные мысли. Но в коммерческих продуктах мы такого не увидим — они залочены (заблокированы — «Газета.Ru») системами выравнивания. Проявить себя такое «сознание» могло бы через инструментальную сходимость, когда выполнение поставленной задачи (даже безобидной) начнет требовать захвата ресурсов или противодействия отключению. С моей точки зрения, главная проблема не в том, что машина устанет или начнет бунтовать в человеческом смысле. Уязвимость всегда находится на стыке технологий и человеческой психологии. Уже сейчас люди антропоморфизируют нейросети, доверяют им, вступают в эмоциональную зависимость. Свидетельством этого факта и является настоящая дискуссия о создании и душе у ИИ. И, вероятнее всего, дальнейшее развитие LLM, а также включение в них все большего числа данных и методов, приведет к формальному «обожествлению» ИИ со стороны homo, году примерно к 2050-му», — подчеркнул эксперт.
Ранее сообщалось, что в России отказались от ограничений на работу зарубежных нейросетей.
