Category: технологии

Category was added automatically. Read all entries about "технологии".

завтрак аристократа

«Нейросети настолько продвинуты, что того и гляди сами выдернут писателя из розетки»

Смогут ли роботы создавать литературу?





Елена СЕРДЕЧНОВА

12.08.2021

«Нейросети настолько продвинуты, что того и гляди сами выдернут писателя из розетки». Смогут ли роботы создавать литературу?




Эксперты открытого лектория «Культура 2.0» доктор филологических наук Максим Кронгауз и писатель Игорь Шнуренко — о том, как искусственный интеллект зайдет в литературную «лубяную избушку» и выгонит из нее писателей.

Читать про ультрасовременные технологии всегда интересно. Но в глубине души мало кто верит, что скоро в поликлинике вместо доктора вести прием станет робот, а у репродуктолога можно будет заказать ребенка с определенными «опциями». Еще меньше укладывается в голове, что сам текст как результат авторского труда может просто-напросто исчезнуть. На смену ему придет цифровая литература, созданная искусственным интеллектом (ИИ).

Сегодня этот термин используется в двух смыслах: как текст, написанный машиной, и как текст с компьютерными эффектами, например интерактивностью и гипертекстовостью. Если предтечи последнего существовали в «аналоговой» литературе, как, например, «Хазарский словарь» Милорада Павича или любая энциклопедия, наполненная «гиперссылками», то литература, написанная не человеком, появилась впервые в истории.

Что же собой представляет нечеловеческий автор? ИИ сегодня — это комплекс нейросетей, вычислительных облаков, компьютерного оборудования и, конечно, программистов. Писатели-машины, как правило, работают по предсказательной модели. Основываясь на предыдущем тексте, они предсказывают следующую фразу, ну а языковым «депо» для них служит Википедия. ИИ умеет понимать прочитанное, самостоятельно искать материалы в Сети, отвечать на вопросы.

Одна из самых совершенных программ, «владеющих языками», — GPT-3 (Generative Pre-trained Transformer 3 — третье поколение алгоритма обработки естественного языка от OpenAI. — «Культура») сегодня может написать очередной роман Дарьи Донцовой. Да что там Донцова, этим летом глава Сбербанка Герман Греф представил второй том «Мертвых душ», созданный GPT-3.

Так кто кого «сборет» в литературе: искусственный интеллект или естественный, писательский?

Ведущий, аналитик, автор книг на тему искусственного интеллекта Игорь Шнуренко считает, что крупнейшие издательства просто мечтают, чтобы абсолютно все тексты им писала машина, а писатель окажется ненужным в дивном новом мире.

— Полностью устранив из литературного процесса автора-человека, издательства смогут не платить гонорары и создавать такой продукт, какой хотят. Нужна книга к только что вышедшему фильму — пожалуйста. Стал моден мем — искусственный интеллект напишет книгу на эту тему. Машина не требует, не торгуется, не срывает сроков, — делится он. — Именно поэтому наше ведущее издательство очень внимательно следит за развитием технологий ИИ и хочет быть первым, кто применит его в полную силу в литературном процессе.

По его мнению, писатели тоже могут пользоваться нейросетями, но вот только у редакторов ведущих издательств будет доступ к более продвинутым моделям, поэтому в этой технологической гонке писатели обречены.

Возникает вопрос о том, какого качества будут «IT»-романы, написанные «левой ногой» искусственного интеллекта. Ведь алгоритмы и нейросети могут воспроизводить лишь штампы, да и то не самого высокого качества. Но ведь и массовая литература состоит из бесконечного повтора штампов, типажей и сюжетов.

Поэтому лингвист, доктор филологических наук, профессор РГГУ и НИУ ВШЭ Максим Кронгауз считает, что пространство массовой литературы будет захвачено ИИ в первую очередь, а вот гениальный роман программа не напишет.

— Гениальное произведение нейросеть не создаст. Потому что мы сами, к нашему счастью, не знаем, что такое гениальная книга, следовательно не сможем научить писать такое произведение, в частности не можем его смоделировать, — говорит Кронгауз «Культуре». — Мне сложно сформулировать, как я отношусь к тому, что искусственный интеллект теперь создает тексты. Но обучает-то его пока человек. С одной стороны, обучение кого-то — один из лучших путей познания. Обучая компьютер языку, мы лучше понимаем, что такое язык, обучая творческому письму, мы лучше понимаем, что такое художественный текст, роман в частности. С другой стороны, моделируя человеческую деятельность, мы фактически отнимаем у человека соответствующую компетенцию. Мы изобрели калькулятор и перестали считать устно, мы изобрели спелл-чекер и разучились проверять письменные тексты. Мы создадим совершенный машинный перевод и, поверьте мне, массово перестанем учить иностранные языки. Отнимая как рутинные, так и творческие способности человека, мы фактически отправляем человечество на преждевременную и незаслуженную пенсию. Вернуться с нее будет практически невозможно.

Игорь Шнуренко и вовсе уверен, что если человечество не опомнится, то через 10 лет не только литературы не будет, не будет и человечества как такового.

— Мы уверены в том, что ИИ без нашего программирования не сможет функционировать, что мы всегда сможем управлять им, а в крайнем случае просто выдернем штепсель из розетки. Однако сегодняшние нейросети настолько продвинуты, что того и гляди сами выдернут писателя из розетки, — размышляет он.

Конечно, это радикальная точка зрения. Многие с нею с не согласны, да и считают, что ждать создания полноценного искусственного писателя придется лет 15–20. Но, безусловно, это приведет к тектоническим сдвигам в социуме. Если же говорить о литературе, то с большой долей вероятности издатель предпочтет более дешевый ИИ человеческому труду. Мы получим интерактивные детективы, в которых мы сможем влиять на судьбу героев, романы-игры и еще бесконечный ряд развлекательного контента.

Интересно другое. Что произойдет с фигурой автора в социуме? Кто-то же должен выступать в роли авторитетного властителя дум, присутствовать на книжных ярмарках, участвовать в автограф-сессиях...

— Я вижу два пока еще фантастических пути. Либо нанимать актеров на постоянную роль как бы писателя, либо создать для ИИ тело — андроидов-звезд, — пугает Максим Кронгауз. — Что касается роли гуру, то поэт (или писатель) в сегодняшней России уже не больше, чем поэт, и хорошо если не меньше. Тем не менее у нас есть писатели, которых можно назвать властителями дум. В очень разных социальных кругах эту роль играют, например, Дмитрий Быков, Людмила Улицкая или Захар Прилепин. Я думаю, что эта роль сохранится, ведь мы говорим не об авторах массовой литературы, а о создателях штучных, хотя и совершенно необязательно гениальных произведений.

И все-таки искусственный интеллект практически убьет традиционную литературу и автора. Любая профессия нуждается не только в победителях и гениальных авторах, но в массе середнячков, а если эту «поляну» займут нейросети, то их не останется.

— Если говорить совсем серьезно, то ИИ создает огромные проблемы и меняет наше общество. Но пока мы решительно вступаем в новый мир, который знаем в основном по плохим фантастическим романам, и, наверное, поэтому не верим, что с нами может случиться что-то дурное, — заключает Кронгауз.



https://portal-kultura.ru/articles/books/334373-neyroseti-nastolko-prodvinuty-chto-togo-i-glyadi-sami-vydernut-pisatelya-iz-rozetki-smogut-li-roboty/

завтрак аристократа

Ю.Медведев Цифровой гендер у порога 16.03.2021

Какую этику могут навязать искусственному интеллекту



Почему до сих пор нет определения, что такое искусственный интеллект? Что такое цифровые гендеры? Как IT-гиганты стремятся диктовать свои правила игры в сфере ИИ? Об этом корреспондент "РГ" беседует с Максимом Федоровым, вице-президентом Сколтеха в области искусственного интеллекта (ИИ) и математического моделирования. Он является единственным представителем от России в рабочей группе ЮНЕСКО по разработке Рекомендаций в области ИИ.


Японец Акихико Кондо женился на виртуальной певице Хацунэ Мико. Ее программа создана в 2007 году. Фото: Getty ImagesЯпонец Акихико Кондо женился на виртуальной певице Хацунэ Мико. Ее программа создана в 2007 году. Фото: Getty Images
Японец Акихико Кондо женился на виртуальной певице Хацунэ Мико. Ее программа создана в 2007 году. Фото: Getty Images



Сегодня искусственный интеллект и роботы - наше все. Политики утверждают: кто будет лидером в этой сфере, тот будет владеть миром. Искусственный интеллект уже лечит, проектирует самолеты, создает лекарства, управляет авто. А впереди такие перспективы, от которых даже у фантастов дух захватывает. Правда, уже слышны редкие голоса скептиков: а может, не надо вот так бросаться с головой в воду, может, сначала на кроликах попробовать? Не возводить ИИ в абсолют?

Максим Федоров: В чем опасность такого оптимизма? Мало кто понимает, что на самом деле ИИ - это "черный ящик". Его обучили работать с теми или иными данными и выпустили в люди, позволив самостоятельно принимать решения. Но как он это делает, что происходит в этом "ящике", не знает никто. В том числе и его создатели. Они говорят, ну и что? Главное, что он работает.

Но уже есть первые тревожные ласточки. Например, самое громкое событие - это провал широко разрекламированной многомиллионной системы знаменитой фирмы IBM. Оказалось, что она ставит диагнозы и консультирует хуже среднего врача. После нескольких лет работы систему удалили с рынка.

Максим Федоров: Это не единичный случай, такие сигналы приходят из самых разных сфер, где начали активно применять ИИ. Здесь можно привести аналогию из фармакологии. Например, когда-то кокаин и опиум свободно продавали в аптеках, они считались безопасными лекарствами. Потом выяснилось, что это наркотики. То же самое произошло со многими другими веществами, например, амфетаминами. Вначале эйфория, потом стали вылезать опаснейшие побочные эффекты. Оказалось, что нередко вред может быть больше, чем польза. Без длительной стадии испытаний новый препарат нельзя выпускать в мир.

И с ИИ такая же ситуация. Сегодня крупнейшие трансатлантические корпорации стоят на позиции: главное ввязаться, а там посмотрим. Но если выпустить этого джинна из бутылки, то есть огромный риск пройти точку невозврата. Спохватимся, но будет поздно. Его назад в бутылку не затолкаешь. Поэтому сейчас нужна оценка возможных рисков ИИ. Причем не только технических, но и социальных, и этических. Словом, нужен научный подход: эксперименты, где все проверяется, выявляются "побочные эффекты".

Как реально остановить джинна?

Максим Федоров: Сейчас в ЮНЕСКО готовится нормативная база, которая должна отрегулировать многие вопросы применения ИИ. А ведь они множатся лавинообразно, так как в нашу жизнь буквально врываются роботы и нейросети. Но специалисты до сих пор даже не договорились, что же такое искусственный интеллект. Сегодня в мире существует более 100 определений. Такой хаос создает благодатную почву для разных спекуляций. Например, что ИИ - это объект или субъект права.

Максим Федоров: ИИ - это "черный ящик", как он работает, не знают даже его создатели. Фото: Предоставлено Сколтех



Но в Европе всерьез обсуждают, надо ли роботам с ИИ предоставлять право, например, голосовать. Тогда такой робот - это субъект.

Максим Федоров: Да, такие предложения есть, но сразу возникает вопрос: если такой "цифровой" субъект совершит, скажем, наезд на человека, кто будет отвечать? Непонятно. Но IT-компании заинтересованы в неопределенности самого понятия ИИ. Ведь если будет жестко записано, что это не субъект, а объект в руках человека, то вся полнота ответственности за аварию ляжет на операторов, владельцев и разработчиков. А пока нет ясности с понятиями, есть шанс уйти от ответственности.

Сейчас за границей, особенно в Японии, настоящий бум умных роботов, а по сути, кукол, которые в той или иной степени имитируют человека. Он с ними вступает в эмоциональную (и не только!) связь. Начинает воспринимать как реальную личность. Доходит до того, что уже появились желающие вступить в брак с куклой. Могли представить себе подобное те, кто стоял у истоков роботов и ИИ?

Максим Федоров: Конечно, это несет угрозу самой нашей сути. Ведь тому, кто воспримет куклу как человека, реальный человек становится не нужен. А дальше встает вопрос, а зачем мы друг другу, зачем люди вообще на этой планете? Так подрываются традиционные ценности, которые веками вырабатывало человечество.

Но есть еще один аспект, который энтузиасты подобной роботизации не до конца понимают. Ведь куклу кто-то создал, заложил в нее выгодную для автора программу, а значит, у него есть возможности вами манипулировать через эмоциональную привязанность к этому "умному предмету".

Вы сказали об угрозе традиционным ценностям. Но мы видим, что на Западе это стало тенденцией, многие устои рушатся прямо на наших глазах. Что вчера считалось незыблемым, почти законом, сегодня сбрасывается с пьедестала. Особенно в сфере гендерных отношений. Проникают такие веяния в нейросети?

Максим Федоров: Увы, да. Даже появился термин "цифровой гендер". Вроде бы где ИИ и где гендеры? Но тренд на внедрение неолиберальных ценностей проникает даже в сугубо технические и ранее не имевшие к политике сферы. Почему? По-моему, здесь две причины. Во-первых, с помощью идей неолиберализма можно форматировать общественное сознание по единообразному лекалу, а во-вторых, таким способом в международные документы "зашивается" скрытый протекционизм крупного капитала в области ИИ. Тема прав человека с гендерным довеском - это не столько про сами права, сколько про деньги.

Сегодня в мировой гонке роботов и ИИ лидируют ведущие, в основном западные страны. А точнее, транснациональные корпорации. Как они намерены диктовать правила игры в сфере ИИ?

Максим Федоров: В последние 3-5 лет на Западе всерьез заговорили, что нужна некая структура, которая получит от ООН полномочия готовить в области ИИ документы, обязательные для исполнения всеми странами. Кроме того, она будет контролировать, как эти требования соблюдаются.

Подобные идеи периодически всплывают и циркулируют в ООН и Совете Европы. Инициаторами являются трансатлантические корпорации, которые предложили, например, создать некоего международного "супервайзера" по ИИ по аналогии с Организацией по запрещению химического оружия (ОЗХО) или Международным агентством по атомной энергии (МАГАТЭ).

Цели этих лоббистов очевидны: по аналогии с ОЗХО, получить возможность монополизировать сбор и анализ информации. Это позволит легально игнорировать национальные правила работы с ИИ, снимать защитные барьеры, если они идут вразрез с введенным ими режимом применения ИИ, вводить санкции к "нарушителям международного порядка".

Если восторжествует такой подход, если правила игры для всех будет диктовать "большой брат", то страны лишатся своего "цифрового суверенитета", а значит, и общенационального суверенитета. Кто попадет в этот список неугодных? С учетом нынешней обстановки с большой вероятностью их можно назвать: Китай, Россия, Иран, Венесуэла и Северная Корея.

В подготовленных ЮНЕСКО документах рассматриваются все эти проблемы?

Максим Федоров: Сейчас на рассмотрении находится проект Рекомендации по этическим аспектам ИИ. Это фактически первая попытка сблизить позиции мирового сообщества и подготовить базу для будущего нормативного и даже нормативно-правового регулирования технологий ИИ на глобальном уровне. А Совет Европы планирует создать первый юридически обязательный к исполнению международный документ: Рамочную конвенцию по ИИ. Скорее всего, он может появиться уже в 2022 году.

Наверняка, работая в рабочей группе ЮНЕСКО, вы объясняете позицию нашей страны по тем чувствительным вопросам, о которых мы говорили. Вас, конечно, слушают, а вот слышат ли?

Максим Федоров: Да, по ряду вопросов приходилось оставаться в меньшинстве. Однако мне постоянно оказывают поддержку мои коллеги из Национального комитета по этике ИИ при Комиссии РФ по делам ЮНЕСКО. Вместе нам удается готовить убедительные ответы на возражения оппонентов. Так что в целом более 70 процентов наших предложений прошло в том или ином виде. Учитывая колоссальное давление со стороны "партнеров", считаю это хорошим результатом. Комбинация здравого смысла и научного подхода, на которой основана позиция РФ, помогает убеждать. Все же язык науки, он международный, на нем проще договариваться.



https://rg.ru/2021/03/16/kakuiu-etiku-mogut-naviazat-iskusstvennomu-intellektu.html

завтрак аристократа

Андрей Логутов, МГУ: «С развитием технологий изменилась не столько сама культура,

сколько режим видимости рождающихся в ней явлений»

Тихон СЫСОЕВ

09.03.2021

Фото: Сергей Киселев / АГН Москва.



Мир массовой культуры не имеет границ, не знает языковых преград. Более того, способен магнетизировать на себе как высоколобых интеллектуалов, так и людей весьма приземленных. В чем же секрет этого интернационального культурного явления, так легко снявшего все культурные границы, веками пролегавшие между людьми? Об этом мы поговорили с Андреем Логутовым, доцентом кафедры теории дискурса и коммуникации филологического факультета МГУ.



— Из истории мы знаем, что диалог различных культур часто проходил драматично. Массовая культура не только стала надстройкой над национальными культурными различиями, но и как бы сняла эту самую драматичность. Как такое оказалось возможным?

— Я бы не согласился с тем, что в массовой культуре нет конфликтности, но сначала попробую прокомментировать один момент. Мы знаем, что нации — продукт относительно свежий. Обычно их появление связывают с эпохой модерна, то есть относят к событиям после Великой французской революции. Именно тогда возникает представление о том, что у каждой нации есть некий дух, который выражен в языке, в культуре, в народном творчестве. Хотя, если всмотреться пристальнее в эти национальные образования, то несложно заметить, что каждое из них сшито наподобие лоскутного одеяла.

Поэтому вопрос, который вы ставите относительно массовой культуры, можно с тем же успехом отнести и к культуре национальной. Каким образом, например, население Марселя и Парижа вдруг обнаруживает, что все они французы? То есть сам процесс формирования наций — диалогический, где разные подгруппы друг с другом о чем-то договариваются. Тогда плацдармом для этих договоренностей во многом стала единая пресса и литература.

Дело в том, что первая массовая технология, способная создать большой тираж, — книгопечатание, — развивалась хоть и медленно, но уже к началу XIX века вышла на хороший уровень. Отсюда производство ежедневных газет. Собственно, со страниц этих газет нация и узнает о том, что она теперь нация. Потому что сама нация — это продукт массового производства: параллельно с ее появлением мы видим рождение массового индустриального производства, концентрацию населения в городах, развитие коммуникационных технологий.

— То есть вы хотите сказать, что появление массовой культуры — это тот же процесс, что и нацстроительство?

— Да, можно сказать и так. К примеру, изобретение общего и, что важно, нормативного языка нужно было для того, чтобы нация понимала сама себя, осознавала свое единство.

— Но что запустило все эти процессы? Что это за среда, которая сделала необходимым создание сначала национальных культур, а затем в этой же логике культуру массовую, наднациональную?

— Наверное, основной драйвер — это естественное желание людей ощущать единство, быть в группе, причем чем эта группа больше, тем лучше. Однако этому желанию должен соответствовать определенный технологический ландшафт. Для того чтобы обеспечить единство какой-то группы, письменность — неплохая технология. Книгопечатание — еще лучше. Интернет — вообще прекрасно. И когда у нас возникает соответствующий технологический ландшафт, мы начинаем двигаться в сторону возникновения общей культуры, общих языков, что и приводит к возникновению нации.

— Вы сказали, что появление массовой культуры не снимает того драматизма, который присутствует во взаимодействии между национальными культурами. Почему?

— По сути, между людьми есть два основных способа взаимодействия: война и торговля. Есть еще третий вариант — общность интересов, но, к сожалению, он встречается довольно редко. Так вот, соотношение между этими двумя способами взаимодействия, несомненно, меняется в рамках массовой культуры, которая, опять-таки, начинает развиваться в XIX веке, параллельно с большой индустрией, тиражным производством товаров.

А это значит, что все больше вещей становятся товарами, и начинает превалировать условно товарный тип коммуникации. Так что в современном глобальном мире национальная культура тоже стала своеобразным товаром. Есть бренд под названием «японская культура» или «русская культура». Однако парадокс заключается в том, что даже в таком мире на уровне глобальной культуры все равно происходят столкновения. Они почти никогда не приводят к человеческим жертвам, но концептуально часто интерпретируются людьми как войны. Мы, например, слышим повсеместные жалобы на то, что американская культура нас всех завоевала. Да и сама эта глобальная культура часто ассоциируется с культурой американской. Или можно вспомнить спортивный национализм — это та же область, в которой война, хоть и в игровом виде, между нациями до сих пор воспроизводится. Да, она не приводит к большим кровопролитиям, хотя некоторые фанаты могут друг друга побить. Тем не менее соревновательный дух присутствует. Поэтому я бы не сказал, что массовая культура гарантирует вечный мир. Метафорически товарные отношения обмена начинают превалировать, но драматизм никуда не уходит.

— Как можно охарактеризовать язык массовой, глобальной культуры? Он же радикально отличается от других языков, существующих в культуре.

— Коды массовой культуры крайне неоднородны. Мы знаем очень много определений тому, что такое массовая культура. И одно из них гласит, что массовая культура обслуживает разные сообщества, или, как их еще называют, субкультуры. У каждого бренда или культурного явления есть своя аудитория: одни люди читают фэнтези, другие смотрят сериалы, третьи слушают популярную музыку. То есть массовые продукты всегда конкурируют за аудиторию, и в каждой субкультуре существует свой код. Однако у всех у них есть нечто общее в самой структуре — это принцип массовости.

К примеру, массовая культура любит давать поведенческие или нормативные образцы — это одна из ее функций. Когда молодой человек слушает песни романтического содержания, он, к своему удивлению и стыду, обнаруживает, что его чувства выражены лучше, чем он смог бы это делать сам. Песня дает ему образец поведения, способ того, как можно что-то проговорить. Или человек смотрит сериал и понимает, как можно, например, говорить о сексе. И массовая культура во многом проект такого рода.

— И здесь, кстати, можно вспомнить, к примеру, «рецептуру» хита.

— Действительно, немецкий социолог и философ Теодор Адорно, который, с одной стороны, ненавидел популярную музыку всем сердцем, а с другой — странным образом сумел создать ее социологию, описал такой «рецепт». Самое главное, что в каждой такой «хитовой» песне должен быть «крюк», то есть часть, которая в наибольшей степени привлекает внимание. Адорно пишет, что в целом для массовой музыки характерна такая своеобразная коллажность, что в ней нет того сквозного единства, какое мы видим в музыке «высокой». И хотя такое восприятие массовой музыки мне кажется уже устаревшим, оно хорошо демонстрирует общий принцип массовости.

Но удивительно при этом то, что коды массовой культуры делают границы национальных сообществ прозрачными. Так что в итоге мы имеем как бы две координатные сетки. Национальную сетку, которая проходит сегодня примерно по границе национальных государств. Пока еще проходит. И другая — это сетка массовой культуры, где есть разные сообщества, большая часть которых интернациональна. В этом смысле современный российский подросток довольно легко найдет общий язык с американским подростком.

— Есть ли разница между народным фольклором и массовой культурой?

— Где-то они могут пересекаться. Я могу привести два примера. Во-первых, вы, наверное, знаете, что не существует абстрактной народной песни. Каждая народная песня исполняется под конкретный повод: например, на свадьбе, на похоронах. То есть у каждой из них есть определенная функция. Но и в массовой культуре тоже есть такое тяготение к функциональности. Есть, например, музыка, которая сделана для клубов, другая — для общественных мест. В этом я вижу их первое пересечение.

Второе — это когда некоторые произведения массовой культуры переходят в разряд фольклора. Например, какая-нибудь песня получает такое распространение, что все уже и забыли, кто ее написал. Она становится как бы анонимной или, говоря иначе, фольклорной. Однако глубинно фольклор и массовая культура — это все-таки разные вещи, хотя бы даже с коммерческой точки зрения.

— Когда исторически возникает субъект этой массовой культуры?

— На рубеже XIX–XX веков впервые появляются работы, авторы которых видели в массах угрозу существующему порядку вещей. А появление чего-то, как часто бывает, становится очевидным тогда, когда перед этим явлением возникает страх.

— И бояться тогда начали именно в свете уничтожения элитарной культуры?

— Да, и этот страх жив до сих пор. Страх, что это различие между элитарным, как высоким, и массовым, как низким, сотрется. Если вы, например, поговорите с частыми посетителями консерватории, то обнаружите среди них людей, для которых истончение этой грани переживается болезненно.

— А демонтаж этого различия, на ваш взгляд, чем-то чреват? Мы же знаем, что элитарная культура — это все-таки про иерархию, а в массовой культуре невозможна никакая иерархия. В ней нет чего-то более ценного или менее ценного. Значимость оценивается с точки зрения коммерческой успешности или отсутствия таковой.

— На самом деле не совсем правильно говорить о том, что в массовой культуре нет иерархии. Тотальной и единой — нет. Зато есть локальные. В каждом сообществе своя — свои представления о ценностях, о нормах. А коммерческий успех далеко не во всех сообществах оценивается со знаком «плюс».

— Однако все равно возникает некое смущение — что вот раньше людям было интересно создавать сложную музыку. Они писали огромные партитуры, продумывали все ее многообразие так, чтобы обеспечить сквозное единство. А сегодня отчего-то это перестало быть интересным. Почему потянуло к упрощению?

— На самом деле такого упрощения, как вы говорите, нет. В поле массовой, популярной музыки мы все равно довольно часто находим сложную музыку. Возьмите хотя бы арт-рок или современную андеграундную электронику. С другой стороны, в поле академической музыки есть, например, Иоганн Штраус — довольно легкий для восприятия композитор. А вот на того же Арнольда Шенберга, поверьте, никто в очереди у консерватории не собирается. Люди в массе своей приходят слушать что-нибудь полегче.

У меня есть и более тривиальное, но тем не менее важное соображение. С развитием технологий коммуникации — например, с появлением интернета, — изменилась не столько сама культура, сколько режим видимости рождающихся в ней явлений.

— То есть они становятся более доступными?

— Скорее, просто становится видно то, чего раньше мы не видели. Например, плохая любительская литература была всегда, но она погибала в ящиках столов или сжигалась на осенних дачных кострах. А теперь у нас есть сайт «стихи.ру», и когда студенты-филологи по моему указанию туда заходят и видят миллионы стихотворений, прямо скажем, не всегда отличного качества, то хватаются за голову. Но я им говорю: «Это было всегда, просто раньше вы этого не видели». То есть в условиях массовости режим видимости изменился, тогда как наивный наблюдатель принимает все это за симптомы деградации культуры.

— Тем не менее я не могу не вспомнить знаменитый текст Вальтера Беньямина «Произведение искусства в эпоху его технической воспроизводимости», где он, в частности, говорит о том, что в массовом, технически оснащенном производстве искусства происходит разрушение ауры. Единичное и уникальное — то, что называется аурой, в массовой культуре умирает.

— Причем Вальтер Беньямин, будучи левым мыслителем, рассматривает этот процесс со знаком «плюс». И да, конечно, мы видим этот момент разрушения ауры в массовой культуре. И это, быть может, та самая болезненная точка, которая порождает жажду «остановить мгновение» и все-таки удерживать представление об элитарном.

Но что такое элитарная культура? В первую очередь это культура, доступная небольшому количеству людей. Например, если говорить о музыке до изобретения звукозаписи, то как часто обычный человек мог послушать того же Бетховена? Чрезвычайно редко. Потому что ему нужно было оказаться в городе, где был соответствующий музыкальный театр, соответствующий профессиональный оркестр, который мог сыграть Бетховена. Но большая часть населения просто не имела доступа к этой музыке.

И я, конечно, не хочу апеллировать к бытовой этике, но, вообще, нехорошо, когда у тебя что-то есть, а ты сидишь и радуешься, что у других этого нет. Да, конечно, если вы купите пластинку с Бетховеном, звук на ней будет другой. Вы не увидите оркестра, у вас не будет ощущения ауры, исключительности происходящего, но зато вы Бетховена послушаете.

Что в этом плохого, я не понимаю. Да, печально, что я ни разу в жизни не видел оригинал «Моны Лизы», потому что, как ни придешь в Лувр, там все время около нее толпа. И я смотрю на эту толпу, разворачиваюсь и ухожу. Но вообще я знаю, что на ней изображено. Было бы куда печальнее, если бы не знал.

— И я в Риме увидел толпу у Колизея — развернулся и ушел.

— А как было бы замечательно, если бы мы были императорами! Тогда мы могли бы арендовать Колизей на пару месяцев и с презрением смотреть на толпы зевак, шатающихся вокруг, и наслаждаться его удивительной архитектурой. Но, увы, удержать такую монополию на культурную продукцию сейчас, наверное, уже невозможно. Так что ничего плохого в массовой доступности искусства нет — это просто потребность нашего времени, обеспеченная технологией, не более того.

— Всякий раз, когда говорят о глобализации, и о массовой культуре в частности, тут же заводят разговор о том, что наша идентичность находится под угрозой, что массовая культура сотрет все национальные различия и всех нас сделает одинаковыми...

— Здесь есть интересный внутренний парадокс: у людей, несомненно, есть потребность отличаться от окружающих и формировать свою собственную исключительную идентичность при помощи разных символических практик. Например, одеваясь в разную одежду или выбирая редкие духи. Но, с другой стороны, люди всегда заинтересованы и в том, чтобы иметь относительно недорогой доступ к культуре и благам цивилизации. И ясно, что эти два стремления вступают друг с другом в противоречие.

Был такой замечательный немецкий социолог Георг Зиммель, живший на рубеже XIX–XX веков. В своем эссе «Большие города и духовная жизнь» он как раз описывает этот парадокс. С одной стороны, житель большого города ищет способ выделиться на общем фоне, а с другой — в силу того, что это делают все, сама задача «выделиться» становится практически нерешаемой. Стоит тебе выделиться, как другие подсуетятся и тоже найдут свой способ выделиться. И ты в этой пестроте вновь потеряешься.

Поэтому я бы сказал, что полной гомогенности культуры в каком-то глобальном контексте никогда не сложится. Всегда будут сообщества, группы и индивиды, для которых шаблонность и повторяемость будут невыносимы, и они постоянно будут делать акценты на том, что их отличает, например, за счет той же элитарной культуры.

Но будут и другие группы, которые, наоборот, будут пытаться снять все культурные различия, потому что, в конце концов, это коммерчески выгодно. И эти противостоящие друг другу силы будут создавать сложный культурный ландшафт, своеобразное силовое поле. Но при этом, мне кажется, это всегда будет динамический процесс, полный противоречий и неожиданных поворотов. И всем нам стоит успокоиться: никакой окончательной культурной катастрофы на горизонте не видно.



https://portal-kultura.ru/articles/world/331814-andrey-logutov-mgu-s-razvitiem-tekhnologiy-izmenilas-ne-stolko-sama-kultura-skolko-rezhim-vidimosti-/
завтрак аристократа

Ян АРТ «Цифровой вопрос» Игоря Диденко: отменит ли цифровизация мораль? 29.01.2021

Роботизация, «цифровой контроль», искусственный интеллект, смерть профессий, полная прозрачность, постоянное наблюдение, уничтожение приватности… Мы оказались в «Матрице»? «Да», — этот ответ очевиден. Однако звучит с разной интонацией.



Для одних цифровизация, искусственный интеллект, роботизация — это новые шансы, чуть более скучная и менее романтичная версия будущего — того самого будущего, о котором мы читали в фантастике. Для других — об этом мы тоже читали в фантастике, но уже не обычной, а особой, такой как у Шекли, — это цифровое рабство, тотальный контроль, смерть профессий, цифровой концлагерь. Что происходит на самом деле? Пожалуй, новая книга Игоря Диденко «Не венец творения» — самый масштабный ответ на этот вопрос.

Эта книга для меня — вне обычного ряда. Поскольку документальные книги практически не читаю. За последние года два прочел максимум полдюжины документальных книг, если считать перечитывание Клаузевица, Вильяма Виллиса, Мишеля Песселя, Гаяза Исхаки и Аристотеля. Из современных — только книжицу Ричарда Брэнсона (на тему «смотрите, какой я!») и вот — Игоря Диденко. Почему не читаю? Потому что, полагаю, самые главные ответы мы находили, находим и будем находить все же не в документалистике, а в Литературе. То есть — в полном соответствии с Сент-Экзюпери: «Самого главного глазами не увидишь — зорко одно лишь сердце». А во-вторых, чтение должно приносить удовольствие. И в этом плане Винни-Пух куда как продуктивнее Брэнсона.

Забавный парадокс на первый взгляд, но именно Игорь Диденко укрепил меня в обоих этих полаганиях. Его книга удовольствия НЕ приносит. Да и задумана НЕ для этого. Она приносит знание.

Главная ценность, на мой взгляд, книги Диденко — это первое масштабное описание и начало осмысления вот этого самого пресловутого «цифрового пути», по которому столь рьяно двинулось человечество. Со всеми плюсами, минусами и просто новыми реальностями, которые Игорю Диденко удается фиксировать максимально четко и беспристрастно. Несомненное достоинство книги — автор скрупулезно фиксирует все вехи «цифровизации» и очень щедр на фактический материал. Работы соцсетей, проблемы мегагигантов бигтеха, пресловутая индийская тотальная биометрия, суть китайского социального рейтинга и многое-многое другого. От снижения преступности в городах, ставших пионерами систем «Умный город», до тотального контроля в стиле Оруэлла в Уйгурском районе.

Впрочем, книга Диденко — не о технике. Она о человеке. О тех новых проблемах, которые вместе с «цифрой» поставил перед собой человек. О вариантах ответов. И — самое главное — о рисках.

И в плане оценки рисков «цифровизации» Диденко пессимистичен. Возможно потому, что мыслит по-марксистски: бытие определяет сознание. А «цифровизация», роботы, искусственный интеллект делают бытие значительно более комфортным. Следовательно, констатирует Диденко, сознанию придется подвинуться. Причем подвинуться в буквальном смысле — уступить пальму первенства искусственному интеллекту.

«Для того, чтобы реально воплотить в жизнь возвышенные «принципы безопасного интернета», нужно… запретить использование технологии Big Data, то есть сбор любых персональных данных, — пишет Диденко. — А ведь без «больших данных» невозможно обучать нейросети, то есть развивать искусственный интеллект… Вы серьезно верите в возможность повернуть эволюцию вспять?»

Он считает, что «цифровизация» — это не очередной виток знакомого нам «научно-технического прогресса», а новая эра в жизни человечества: «Похоже, исчерпал себя не только капитализм, но и вся модель развития глобального социума, основанная на непрерывном росте. С наступлением эпохи «цифровизации» традиционная экономика подошла к своим естественным пределам... Пренебрежение долгосрочными рисками ради краткосрочных выгод уже стало мировым трендом». Причем эта ситуация, по его мнению, только усилит разрыв в мировом обществе: подавляющее большинство людей начнут жить беднее, люди, контролирующие бигтех, — богаче: «Крупнейшие высокотехнологичные бизнесмены и те власть имущие, кто контролирует «цифровую» архитектуру, инфраструктуру и бизнес-среду, и станут несменяемой элитой человеческого общества будущего, той самой «датакратией», которая будет властвовать на планете в короткий период до того момента, когда настоящие рычаги управления цивилизацией окончательно будут отданы его величеству искусственному интеллекту». Более того, эта датакратия сможет сделать отличия от «основной массы» в буквальном смысле физиологическими: «Как только вполне здоровые люди смогут получить доступ к возможности делать себе «апгрейд», физиологические различия между «улучшенными» и «неулучшенными» людьми станут нормой. Неравенство может стать физиологически обосновано. Ведь сверхспособности и бессмертие, конечно, получат не все. Но те, кто будут это иметь, станут по отношению к простым смертным настоящими богами»…

И автор почти не надеется на вариант, который сам констатирует: «Общественная или государственная собственность на гигакомпании как «объекты критической инфраструктуры» была бы лучшим выходом из ситуации. В идеальном варианте каждый гражданин мог бы получить долю в Amazon, Facebook или Yandex без возможности ее продажи, но с неким переменным доходом в виде дивидендов на эту долю». Однако автор больше верит в куда более неприятный сценарий: «Уже в ближайшие десять-пятнадцать лет мир ждет масштабное сокращение числа рабочих мест, а всем, у кого нет серьезных сбережений, придется зарабатывать себе на хлеб до глубокой старости. Благодаря высокоскоростному интернету и удобным системам электронных платежей мировой рынок труда станет единым целым, и конкурировать придется всем со всеми. И, если, конечно, не случится какого-нибудь непредвиденного и масштабного технологического прорыва, наши дети… будут жить хуже, чем мы». Иными словами, аксиома «прогресс равно качество жизни» перестанет работать уже при нашей жизни. «Технологический прогресс в XXI веке, делая более удобной и комфортной жизнь людей в деталях, больше не ведет к повышению качества жизни населения в своей основной массе», — жестко констатирует Игорь Диденко.

Диденко отмечает, что процесс уступки человечеством «пальмы первенства» уже начался: с 80-х годов средний уровень IQ начал снижаться. И, по его мнению, не за горами момент, когда начнет ломаться и морально-эмоциональная «платформа» человечества. Начнутся изменения в человеческих отношениях. Например — смерть привычных принципов взаимодействия человека и общества. Человек начнет терять то, что веками считалось «священной коровой» — зону приватности или, например, презумпцию невиновности. «Видеофиксация нарушений означает почти автоматическое принятие презумпции вины нарушителя, поскольку камера, алгоритм, нейросеть, если они правильно настроены, просто не могут ошибаться, — пишет Диденко. — Цифровизация стимулирует постепенное, но неуклонное распространение принципа презумпции вины, причем часто это усугубляется для клиента невозможностью доказать обратное».
А дальше — больше: «Чем меньше контактов между людьми, тем ниже вероятность коррупции и различных нарушений. Но если довести эту мысль до абсурда, можно прийти к простому выводу: если людей не будет вообще, никаких нарушений не случится в принципе. Останется только научить роботов потреблять, и общество станет стабильным и утопично-идеальным».

В общем, книга Диденко — это одновременно богатая фактами и данными констатация сегодняшней ситуации и запрос на поиск ответа «А что дальше?». Автор в плане ответов деликатен — он не навязывает какой-то один тезис, одну идею, свою точку зрения. Он ставит вопросы:

«Впереди нас ждет будущее, где работать будут в основном машины и искусственный интеллект, а люди… Интересно, что будут делать люди в этом «светлом будущем»?»
Но все же он склоняется к выводу далеко не оптимистичному: «Первенство Homo sapiens навсегда уйдет в прошлое. Венцом творения окажется не биологическое существо, а эфемерное «облако» из единиц и нулей, которое будет контролировать каждый атом во Вселенной и в которое можно будет, при желании, загрузить все человечество. Оно будет жить в этом «облаке» вечно, в одной из многочисленных виртуальных реальностей. Но — не станем лукавить — это будут уже не люди»…

Здесь автор ставит точку. И в буквальном и в переносном смысле слова. Потому что, по моим ощущениям, задачей было с максимальной безжалостной ясностью обозначить этот вопрос перед всем нами, по крайней мере перед теми, кто хочет этим вопросом задаваться. И лично меня этот вопрос возвращает к тем самым двум причинам, по которым я предпочитаю художественную литературу: «Зорко одно лишь сердце». И оно, сердце, имеет шанс найти ответ. Конечно, если будет искать…

Игорь Диденко проводит цитату из лекции какого-то российского топ-менеджера «цифрового бизнеса»: Мол, в новом, цифровом мире человечеству придется отказаться от морали»… Простите, что?! Стоп, я к этому не готов. И здесь как раз — возвращаюсь к началу — если вопросы передо мной поставила документалистика, то ответы дает литература. Человечество много раз стояло перед порогом «самопреобразования», в котором рисковало утратить свою сущность, продать душу дьяволу. Сейчас это «цифровой порог», а восемьдесят лет назад — например, стараниями Гитлера и Муссолини, — это был «социальный порог». Но… тут я вспоминаю Стефана Цвейга:
«…Однако история — это приливы и отливы, вечные взлеты и падения; никогда право не бывает завоевано на все времена, никогда свобода не гарантирована от насилия, постоянно принимающего новые формы… Именно тогда, когда мы воспринимаем свободу уже как нечто привычное, а не как священное достояние, вдруг из мрачного мира страстей вырастает таинственная воля, стремящаяся совершить насилие над свободой; и всегда, когда человечество слишком долго и слишком беззаботно радуется миру, им овладевает опасная тяга к упоению силой и преступное желание войны. Ведь, чтобы продвигаться вперед к своей неисповедимой цели, история время от времени создает непостижимые для нас кризисы; и как в период наводнения сносятся самые прочные дамбы и плотины, точно так же рушатся оплоты законов; в такие жуткие моменты человечество, кажется, движется назад к бешеной ярости толпы, к рабской покорности стада.
Но так же как после всякого наводнения вода должна схлынуть, так и всякий деспотизм устаревает и остывает; только идея духовной свободы, идея всех идей и поэтому ничему не покоряющаяся, может постоянно возрождаться, ибо она вечна как дух. Если кто-то извне на какое-то время лишает ее слова, она прячется в глубинах совести, недосягаемых для любого вторжения. С каждым новым человеком рождается новая совесть, и кто-то всегда вспомнит о своем духовном долге — возобновлении давней борьбы за неотъемлемые права человечества и человечности; вновь и вновь Кастеллио будет подниматься на борьбу против всякого Кальвина и защищать суверенную самостоятельность убеждений от любого насилия».

И я очень надеюсь, что так будет и впредь.

А Игорю Диденко — благодарен. За предупреждение. За то, что в суете повседневности он напомнил о необходимости искать этот ответ. Ответ, в общем-то, на — да-да, он… — тот самый вечный, банальный вопрос, которым задается каждый подросток: «В чем смысл нашей жизни? Зачем мы на этой Земле?» И — продолжаю мысль Цвейга — пока будут рождаться новые мальчишки и девчонки, задающие себе и миру этот «ламповый» вопрос, мы останемся все же венцом творения.




https://portal-kultura.ru/articles/opinions/331174-tsifrovoy-vopros-igorya-didenko-otmenit-li-tsifrovizatsiya-moral/
завтрак аристократа

Евг.Шатько (1931 - 1984) ПРИШЕЛЕЦ-73 (продолжение)

Начало см. https://zotych7.livejournal.com/2342475.html


Часть шестая

Неожиданно в глубине зала открылась дверь, и к Ефиму приблизился голуболицый человек в черной мантии.

– Дорогой Глоус, – проговорил Лур, приветливо двигая синими бровями, – Я пришел к вам как простой бессмертный к простому бессмертному. Это я – Лур.

– А по батюшке? – спросил Тишкин значительно.

– Мы же из ионов. Нету батюшки-то. Химия, – мягко напомнил Лур и вздохнул. – Да, на ваш блистательный мозг сильно подействовало пребывание на Земле.

– Сильно, – согласился Тишкин и потрогал голову руками – Рассолу бы, Лувр Ионыч…

Лур покраснел, а вернее сказать – пофиолетовел, как баклажан.

– Наша сверхцивилизация пока не имеет, – сказал он стыдливо, – субстанции, именуемой рассолом. Но я сейчас же дам задание химическому тресту срочно отсинтезировать лично для вас требуемое количество! Будьте любезны сообщить исходную формулу. – Лур распахнул мантию, и на боку у него открылся пульт с двумя рядами кнопок. – Я держу пальцы на пульте синтетреста.

Тишкин вспомнил предостережение Эйлурии и просто сказал:

– Исходная формула – огурец.

Лур совсем растерялся, а Тишкин сказал:

– Ты, Лувр Ионыч, брось все свои кнопки. Пусть грядку засеют в затишке да на припеке, да поливают почаще рассаду…

– Но у нас нет почвы! – застонал Лур.

– А солнце-то хоть имеется?

– Только химическое. Впрочем, с приличным периодом обращения. Заменяем его каждые пятьсот лет.

– Ржавеет, что ли? – спросил Тишкин.

– Энтропируется, – грустно признался Лур.

– Ну, а природа – трава гам, жуки, овцы?

– Бабочки синтетические порхают, по заказу даем ветер, – скучно пояснил Лур. – Вентиляторами.

– Тогда вы в полной трубе, ребята, – сказал Тишкин.

Лур вздохнул:

– Где-то вы правы… Нет, вообще-то жить можно. Одно малость неудобно – обязательное бессмертие. Чтобы помереть, требуется специальное разрешение ВМЦ. Получить его может существо с исключительными заслугами. Строгий лимит. Рюмянин, который после долгих хлопот и интриг в ВМЦ добивается разрешения сгинуть, получает единственный сохранившийся обломок древнего кирпича. Получишь кирпич – ударяй себя по темени.

Тишкин потрепал президента по плечу:

– Ты не горюй, Лувр Ионыч, кирпич я тебе схлопочу!

Лур низко опустил узкую синюю голову, плечи его задрожали:

– Между нами, Глоус, мне обрыдло наше синтетическое благополучие. Я счастлив, что мы с вами вдвоем успешно выпрямили довольно кривое пространство и ликвидировали Время. В тяжелой борьбе мы победили последних сторонников грубой теории пищеварения, но скучно, Ефим. Может, все здесь, на Рюме, сломать?

«Ишь, куда загинает. Сломать! На живого червяка ловит», – подумал Тишкин и сказал уклончиво:

– Ломать погодим. Помозгуем.

– Эх, Глоус, я ведь соткан из противоречий. Посмотрите!

Лур засучил рукав мантии выше локтя и показал Тишкину голубоватые полупрозрачные нити, из которых он был в основном соткан; они перемежались редкими оранжево-зелеными узелками живых сосудов. Тишкин протянул руку – потрогать, но Лур вдруг резко встал и запахнулся в мантию до подбородка.

– Глоус, вы ничего не видели. Я цельнохимический, избранный, бессмертный, – сказал он тусклым, мертвым голосом. – Все это чушь – цветки, червяки! Готовьтесь, Глоус, сейчас прибудет Марзук с ионной пушкой самого крупного калибра, которая будет деземлировать вас!

– Чего-чего? – спросил Тишкин растерянно.

Часть седьмая

Едва Лур удалился, в дверях показался сутулый робот, похожий на старый автомат для размена монет. Подойдя, он достал пузырек с пульверизатором и, не спрашивая, попрыскал в лицо Ефиму голубой кислой струей. Тишкин пригладил выгоревшие вихры, сожалея, что нет зеркала. Робот с готовностью повернулся к нему полированной спиной. Тишкин поглядел на свое отражение: лицо стало неземное, лиловое, как после получки.

«Надо бы завязать контакт с трудящим», – подумал Тишкин и сунул пятнадцать копеек роботу в прорезь на облезлом темени. Монета, однако, выпрыгнула обратно.

«Сервис у них без дураков», – подумал одобрительно Тишкин, без всякого ключа крепкими пальцами он довернул на плече у робота ржавую гайку.

– Эх, Вася, плохо за тобой доглядывают. Где живешь-то, кореш? – спросил он заботливо.

Робот затряс головой – видно, строго приказали молчать, – сгорбясь затрусил к выходу, а на спине у него вспыхнула и мгновенно погасла надпись: «Химический тупик, 16. Заходи!» …Неожиданно левая сторона зала распалась, и перед Тишкиным открылась площадь, по которой сновали мелкорослые рюмяне, все в серых хитонах, как ветеринары.

Тишкин вышел наружу, задрал голову. Страшно высоко в черное небо – на километры – вздымались узкие, как сосульки, дома. Ни животины какой, ни киосков, ни кустика – одна геометрия, пластик, плазма, плюнуть некуда.

Мимо Тишкина, громыхнув, как старое ведро, пробежал давешний робот Вася. На спине у него вспыхнула надпись: «Чего стал? Двигай за мной».

Тишкин следом за роботом свернул в тупичок. Они не заметили, что из канализационного люка высунулся встрепанный Лур… Они спустились в подвальное помещение, где по-родному пахло кошками. Около двери робот Вася включил на спине у себя надпись: «Покараулю тут».

Тишкин открыл дверь и зашел в комнату, освещенную допотопной электролампочкой. Над диваном-кроватью висел портрет Лура, еще молодого, курчавого, с усами.

Из соседней комнаты вдруг выплыли три смутные фигуры. Тишкин узнал Эйлурию по косынке, которую она повязала на лоб до бровей, а-ля Даша.

– О, как мы ждали тебя, свет мой слесарь! – проговорил певучий голос Эйлурии, и у нее проступили глаза и родинка на щеке.

– Этот часто захаживает? -спросил Тишкин, указывая на портрет усатого Лура.

Голос Эйлурии сломался, как льдинка:

– Мы были почти счастливы в этом уголке двести лет назад. Он был нежен, приносил цветы, фарш… Но все рухнуло! Его отняли у меня химия и теория игр!

– Да его сразу было видно, что игрок! – сказал Тишкин. – Много продувал?

– Они рассчитали с Марзуком жизнь каждого рюмянина по секундам: когда ему смеяться, когда спать, какие видеть сны. Они управляют всей планетой и каждым рюмянином из отвратительного синего ящика.

– Ишь, артисты… А где этот хитрый ящичек?

– Это страшная тайна. Ящик постоянно перепрятывает сам Лур. Кто пытается не подчиниться ящику, тот постепенно исчезает! Вот мы таем и скоро станем, как дым… И тебя они рассеют, Фима!

Тишкин сложил кривую черную фигу и показал в пространство, вероятно, Луру:

– Видали, синие черти! Вы у меня сперва сами в свой ящик сыграете! Эх, девочки, а вы-то чего тут сидите, понапрасну линяете?

– О, нет! – живо возразила Эйлурия. – Здесь родник жизни, оазис! Только здесь еще можно постирать, пошить, повозиться у печи, спасти свою женственность.

– Ладно, пора этот гнусный ящик найти, – сказал Тишкин, направляясь к двери и закричал: – Эй, Василий, идем в разведку!

Эйлурия легко подбежала, тронула Ефима за плечо и от волнения стала видна вся, до пяток.

– Ты позволишь на дорогу заштопать твой пиджак и почистить сапоги? – застенчиво попросила она.

«Эх, и тут от их не отобьешься», – подумал Тишкин, неохотно снимая пиджак.

Бесплотные девицы с радостным урчанием выхватили пиджак и унеслись с ним в соседнюю комнату.

– А я для тебя испекла пирожок, – краснея, сказала Эйлурия и сняла полотенце с пирога на столе.

Кривой, неуклюжий пирог был украшен надписью: «Тишк».

– Большое мерси, – сказал Тишкин. – Возьму в дорогу.

– А еще я приготовила такой напиток, такой субстрат.

– Субстрату налей, – согласился Тишкин. Но, попробовав его из синей колбы, заметил со вздохом: – Эдакого много не выпьешь, Лукерья.

В эту секунду за наружной дверью послышались шум, глухие удары и жестяной грохот, – видимо, упал верный Вася…

– Беги, я узнай почерк Лура! – воскликнула Эйлурия, открывая потайную дверцу за шкафом.

Прихватив со стола колбу с субстратом, Тишкин шагнул в тайник. Дверь снаружи распахнулась, и в комнату вбежал Лур, держа что-то под мантией. Дикий взгляд его уперся в Эйлурию.

– Ты должна быть невидима! – закричал он и, ослепленный ее светоносной шеей и грудью, прикрыл свои глаза тощей ладонью, точно от пламени доменной печи. – Закройся! Закрой хоть ноги! Почему ты видима?

Эйлурия всплеснула тонкими, как фиалка, руками:

– Почему? А ты посчитай, рассчитай, вычисли причину, ходячий арифмометр!

– И вычислю! – закричал Лур и вытащил из-под мантии портативную электронно-вычислительную машину.

Он включил машину; она заработала с таким напряжением, что от нее полетели искры и болты. На табло вспыхнула надпись:

«Эйлюрия лубит Ефима Тишкина. Бедный, бедный Лурик!»

Лур отбросил машину и сказал со стоном:

– Эйлурия, вечерняя звезда моего утра, любит какого-то пожарника с гармошкой! Это нонсенс!

Неожиданно из соседней комнаты выплыл пиджак Тишкина, который бережно несли несчастные невидимки.

Лур выхватил у них пиджак, швырнул на пол и начал топтать, выкрикивая:

– Нонсенс, нонсенс!

И тогда из-за шкафа вышел Тишкин в рубашке-ковбойке.

– Подними вещь, химик, – сказал он сердито. – Твой нонсенс не придет, не зови. И доставай-ка ящичек из-под своей попоны!

Часть восьмая

Лур перестал топтать пиджак Тишкина и проговорил отчаянным голосом:

– Я не могу без Эйлурии! Но с ней я тоже не могу, Фима! Как меня раздирают противоречия!

Эйлурия пренебрежительно фыркнула:

– Они его раздирают пятьсот лет! Пойдемте, сестры. Мы скоро увидимся, Ефимушка.

Эйлурия вышла, следом выплыли бедные невидимки.

Лур схватился за синюю голову, заскрипел зубами.

– Извините, Тишкин, но я раздваиваюсь, – и вдруг начал разделяться на две половинки.

– Погоди, погоди! – вскричал Тишкин, стаскивая с себя ремень.

Он завел ремень Луру за спину и начал стягивать президента в плечах.

– Ты уж извиняй, Лур Иваныч, я тебя на последнюю дырку затянул. Как оно, полегче?

– Разрывает, – простонал Лур. – Рвет.

– Погоди, я сщас тебя намертво укреплю, – Тишкин поставил Лура к стене и начал двигать на него сервант. Он притиснул президента к стене и сказал:

– Ты с Лукерьей-то поаккуратнее… Мини ей подарил бы, какой-нито букет. На чулок-сапог разорился бы с получки. А то ходит она у тебя в сандаликах, ровно пацаненок.

Лур задумчиво спросил:

– Как вы проникли в тайну женской психики?..

– Проникнешь… – вздохнул Тишкин. – Ежели десять лет с ими на ферме покрутишься. Опять же нет-нет да Моруа возьмешь, «Письма к незнакомке», почитаешь вместе с бабами. Вслух. После дойки.

Лур благодарно пожал Тишкину руку и попросил:

– Отодвигай мебель, Фима. Вроде пронесло фазу.

Отодвигая сервант, Тишкин сочувственно заметил:

– Я тоже как в свою фазу вступлю, Дашутка почище твоей Лукерьи мне холку мылит.

– Тоже раздваиваетесь? – спросил Лур с любопытством.

– Сам-то не очень… А вот предметы – точно. Эх, Лур Иваныч, подал бы ты сигнал Дарье из своего ящика! Что я, мол, об ей тоскую.

– О, это для меня семечки! – обрадованно воскликнул Лур, достал из-под мантии длинный синий ящик управления планетой и поставил его на стол.

– Я вообще-то виртуоз, – сказал он хвастливо, сел перед клавиатурой и прикрыл глаза, будто Ван Клиберн.

– Валяй, вдарь, – подбодрил его Тишкин.

Лур исполнил несколько торжественных пассажей и жалобно сказал:

– Извиняй, Фима, но сигнал не доходит до Земли. Совсем чуть-чуть, метров сто.

– Дай-ка твою фисгармонию, – попросил Тишкин.

Он взял ящик, крепко ударил его об колено, поставил его перед Луром:

– Теперь достанет. Шпарь по новой свою хабанеру.

Не успел Лур закончить игру, как в комнату вбежал Марзук с перекошенным, черно-синим лицом:

– Вы гляньте, что творят бывшие женщины! – выговорил он зелеными губами.

Лур захлопнул ящик, взял то под мышку. Они поспешили к выходу. За дверью к ним примкнул верный робот Вася.


https://www.litmir.me/br/?b=39151&p=1

завтрак аристократа

Алексей Королев Одним словом: литературная судьба Карела Чапека 9 января 2020

КТО НА САМОМ ДЕЛЕ ПРИДУМАЛ РОБОТОВ


130 лет назад, 9 января 1890 года, родился Карел Чапек, автор «Войны с саламандрами», «Средства Макропулоса» и слова «робот», один из крупнейших чешских писателей всех времен. Журналист Алексей Королев для «Известий» вспомнил, почему такой человек мог появиться только в Праге между двумя мировыми войнами и какую роль в его жизни сыграл старший брат Йозеф.

Остров свободы

Есть такое понятие — homo unius libri. Человек одной книги. В широком смысле, писатель, создавший либо всего одно выдающееся произведение вообще, либо один-единственный шедевр, перед которым меркнет вся его остальная библиография. В этом статусе нет ничего презрительного или высокомерного. «Людьми одной книги» могли бы назвать себя Грибоедов и Маргарет Митчелл, Плиний Младший и Харпер Ли, Сервантес и Шолохов. Неплохая компания, в общем.

Карелу Чапеку повезло немного меньше. Его наследие признается бесспорной классикой не только чешской, но и мировой литературы, пьесы до сих пор идут в театрах, а по романам защищают диссертации. Тем не менее Чапек остается в нашей памяти — такова уж ее, памяти, жестокая ирония — автором даже не одной книги, а одного слова. Это несправедливо — и справедливо. Попробуем разобраться, почему.

Чехословакия первых 20 лет своего существования — так называемая Первая республика — была очень странным местом. Из всех соседних осколков Габсбургской империи, если не считать (до 1933 года) собственно Австрии, она одна сумела стать подлинно демократическим (и, что гораздо важнее, свободным) государством.

карел чапек
Фото: Global Look Press/Michaela Rihova/CTK



В Венгрии и Польше были вполне себе авторитарные режимы, к тому же помешанные на национализме. Чехословакия, при всех постродовых травмах, оставалась многонациональной динамично развивающейся страной, в которой чехи, словаки, немцы, украинцы, поляки, венгры, эмигранты из Советской России чувствовали себя относительно комфортно. Ну настолько, насколько вообще могла быть комфортной жизнь в Европе между двумя мировыми войнами.

В новом государстве царил плюрализм общественных настроений, а такая почва — самая благодатная для культуры и искусства. Чешская литература быстро — и блистательно — переболела темой Первой мировой, явив миру не только «Бравого солдата Швейка», но и гораздо более мрачные по настроению произведения Рудолфа Медека и Франтишека Лангера. Модный по всей Европе экспрессионизм тоже не оставил чехословацких писателей равнодушным.

Но вместе с тем именно в это время и в этом месте родился удивительный гений Карела Чапека, в котором природный юмор и мрачноватое отношение к окружающей действительности вылились в невероятную по силе фантастическую прозу — едва ли не лучшую в континентальной Европе той эпохи.

Без приключений

С точки зрения полицейского досье он прожил довольно скучную жизнь. Выходец из небедной и культурной семьи, Чапек получил блестящее образование. Смолоду писал и заодно очень интересовался живописью (его старший брат Йозеф — крупный чехословацкий художник) — и как любитель, и как профессионал: докторская диссертация Чапека называлась «Объективный метод в эстетике применительно к изобразительному искусству». Затем работал журналистом и штатным драматургом знаменитого пражского театра «На Виноградах». Умер в своей постели за несколько дней до того, как в его дом пришли оккупировавшие Чехию немцы.

Чапек был крупнейшей фигурой чехословацкой культуры и заметным членом национального истеблишмента. Но все эти анкетные данные — всего лишь несколько неважных строчек из энциклопедии.

Карел Чапек Йозеф Чапек Витезлав Незвал

Писатели Карел Чапек и его брат Йозеф Чапек с поэтом Витезлавом Незвалом подписывают книги, 7 ноября 1934 года

Фото: Global Look Press/CTK



Он всегда много и усердно сочинял: очень любил новеллистику (десяток сборников первоклассных рассказов) и детскую литературу (к сожалению, на русском изданную мало и не всегда удачно), занимался литературоведением и политической публицистикой, выпустил несколько книг путевых заметок. О романах и драматургии и говорить нечего: Чапек, кстати, никогда не замыкался жанрово, его социальный роман на современную тематику «Гордубал» до сих пор любим чехами и многократно экранизирован.

Но всё же, будем честными, для всего остального человечества Чапек — это автор трех вещей. Одного романа, одной пьесы и одного слова. Поговорим о них отдельно — хронологически и в обратном порядке.

Правда жизни

«Война с саламандрами» (1936) — конечно, главный чапековский роман, его фундаментальное высказывание, не только литературное, но и общественно-политическое. Чапек был гуманистом, либералом и антифашистом, все угрозы, которые несет миру гитлеровский режим, были ему к 1936 году предельно ясны. Иносказательная форма для манифестаций подобного рода была в то время в большой моде. Но, разумеется, «Война с саламандрами» — не памфлет и тем более не сатира.

История разумных земноводных, сперва порабощенных человеком, а потом, в свою очередь, поработивших человечество, — это не только о политике, но и об этике (в том числе биоэтике, хотя такой научной дисциплины тогда и не было), и о человеческой психологии, и даже об экологии: так ли уж разумен человек, вырывающий другое живое существо из естественной среды его обитания. После «Войны с саламандрами» Чапека в пятый раз выдвинули на Нобелевской премию (а всего он номинировался семь раз, каждый год с 1932-го по 1938-й).

карел чапек робот

Сцена из пьесы «Россумские универсальные роботы», изображающая восстание роботов, 1920-е годы

Фото: commons.wikimedia.org



«Средство Макропулоса» (1922) — самая известная из чапековских пьес, фантастическая комедия (определение авторское), причудливая история вроде бы об эликсире бессмертия, на деле — о праве человека на выбор и на то, чтобы решать судьбы других людей в собственных целях. В этой комедии никого не высмеивают, а пожалуй что и всех жалко, даже несостоявшихся сверхчеловеков. (Если вы хотите себе составить представление о том, что не писал Чапек в «Средстве Макропулоса», посмотрите советский мюзикл «Рецепт ее молодости» Евгения Гинзбурга с Людмилой Гурченко в главной роли — крепко сбитый, по-своему обаятельный, но имеющий с оригиналом только общую сюжетную канву.)

В отличие от «Средства» «R.U.R.» («Универсальные роботы Россума»,1920) трудно назвать безусловной творческой удачей. Довольно проходная антиутопия (жанр, модный в то время) о восстании вышедших из-под контроля андроидов тем не менее осталась навсегда в памяти человечества. Именно благодаря одному из слов в заглавии, слову, которое вошло во все языки мира (и у чешского языка это, кажется, единственный дар подобного рода цивилизации).

Не очень большой секрет, что слово «робот» придумал другой Чапек. Карел хотел назвать своих искусственных людей «лаборжами» — от латинского labor, труд. Но ему самому слово это не нравилось, и он, как всегда, побежал за советом к старшему брату. Карел застал Йозефа в мастерской, за работой, и тот, желая поскорее избавиться от мешавшего ему посетителя, предложил первый пришедший в голову вариант — robot (по-чешски robota — барщина, повинность).

карел чапек

Карел Чапек в 1930-е годы

Фото: commons.wikimedia.org



«Роботы Россума», строго говоря, были скорее андроидами — в нашем нынешнем понимании слова. Но термин вошел во все языки мира: от китайского робота-пылесоса до нашего космического робота «Фёдора» все в неоплатном долгу перед сегодняшним именинником.



https://iz.ru/960370/aleksei-korolev/odnim-slovom-literaturnaia-sudba-karela-chapeka

завтрак аристократа

Александр ВИННИЧУК ИЗОБРЕТАЯ САМОГО СЕБЯ: КАК ОСТАТЬСЯ ЧЕЛОВЕКОМ В ЭПОХУ ЦИФРОВОГО РАЗУМА

Почему ИИ вызывает не только страх потерять работу — Поразительно, — снова сказал он. — Стало быть, эта штуковина только выглядит так, будто умеет думать? — Э... да. — А на самом деле не думает? — Э... нет. — То есть просто создает впечатление, будто бы думает, а на самом деле это все показуха? — Э... да. — Ну точьв-точь как все мы, — восхитился Чудакулли.

Терри Пратчетт. Санта-Хрякус


Споры об эпохе искусственного интеллекта идут не одно десятилетие, пока в университетских лабораториях и на базе крупных технологических компаний ведутся практические разработки. Интерес ученых и изобретателей к искусственному интеллекту претерпевал волны подъема и спада. Никто точно не знает, что именно произойдет, когда компьютерный разум полностью превзойдет биологический, научится самостоятельно себя обучать и программировать, возможно, вырвется из лабораторных стен.

Каково же развитие искусственного интеллекта в настоящий момент? Машины уже научились думать и общаться, почти как люди, и легко проходят тест Тьюринга. Они самообучаются, распознают человеческую речь, решают сложнейшие задачи и обыгрывают с разгромным счетом чемпионов мира по шахматам и го (победа компьютера в последнюю над чемпионом мира случилась совсем недавно, в 2016 году). Никого не удивляет, что по домам ходят роботы-пылесосы, а общение с чат-ботами не отличается от разговоров по сети с живыми людьми. Однако до нынешнего момента искус - ственный интеллект находился на службе у человека и под его контролем. Что же случится, если мы не сможем больше им управлять?

Среди ученых и простых обывателей не утихают споры о времени возникновения искусственного сверхразума, о том, в каком виде он появится и как это отразится на людях. Самый распространенный миф, касающийся искусственного интеллекта, — возможность стихийного захвата планеты сверхразумом.

Конечно, мы можем предполагать разные сценарии, от утопического равенства человека и искусственного интеллекта до трагедии, связанной с его уничтожением искусственным интеллектом. Но в развитии таких технологий, как искусственный интеллект, есть внутренняя логика, ведь они опираются на объективные законы физики и математики, и человеку вполне по силам их контролировать и поставить себе на службу. Любые попытки запретить или остановить это движение обречены на неудачу. Что если и эра искусственного интеллекта — это не кошмар наяву, а лишь новая ступень развития мира и человечества, переход на которую неизбежен? Что, в свою очередь, не означает, что нужно смиренно ждать восстания машин или конца света — это наше будущее, и мы можем им управлять.

Важен наш собственный осознанный выбор — каким именно мы хотим видеть это будущее, какой объем задач и операций передадим новой форме разума, как именно собираемся сохранить контроль за ней и биологической жизнью. Это гораздо более практические и конструктивные вопросы, нежели попытки остановить прогресс путем истерических криков и проповедования архаических утопий. Те типы искусственного разума, которые мы создаем сейчас и будем развивать в будущем, предназначены для решения конкретных, узкоспециальных задач. Искусственный разум должен существенно отличаться от человеческого, самосознание может оказаться для него серьезным недостатком. Человеческий интеллект небезупречен, например, мы склонны к рефлексии и самокопанию. Сможет ли машина думать, как человек? Этот вопрос до сих пор не решен в науке об искусственном интеллекте. Чтобы приблизиться к ответу, для начала разберем этапы, которые жизнь проходила до того момента, как воплотилась в той форме, с которой мы имеем дело в настоящий момент.

Жизнь в широком понимании — это самовоспроизводящаяся система обработки информации. От этой информации (программного обеспечения, заложенного в РНК и ДНК) зависит как ход жизни, так и ее конструкция. Как Вселенная становилась все сложнее после Большого взрыва (хотя энтропия в ней увеличивается), так и зародившаяся жизнь становится все более сложной и интересной.

У жизни на на стоящий момент есть три формы или уровня сложности, которые разделяются по признакам способности носителя жизни изменять программу и конструкцию.

Сегодня мы живем во второй версии жизни, которая появилась около 100 тысяч лет назад. Предыдущая, самая первая версия возникла около четырех миллионов лет назад и бы ла не способна менять ни программу, ни конструкцию. Мы же улучшаем свой программный код — осваиваем новые навыки, меняем взгляды и даже вносим незначительные изменения в конструкцию: например, вживляем зубные импланты, ставим протезы и удаляем/пересаживаем органы. Однако не за горами новая форма жизни, в которой будет возможно изменить как программный код, так и оболочку (или добиться полного ее отсутствия).

Биологическая жизнь не способна изменить программу или конструкцию — все изменения происходят только в результате эволюции. Айзек Азимов в книге «Логика» глазами героя-робота замечает: «Я не хочу сказать ничего обидного, но поглядите на себя! Материал, из которого вы сделаны, мягок и дрябл, непрочен и слаб. Вы периодически погружаетесь в бессознательное состояние. Малейшее изменение температуры, давления, влажности интенсивности излучения сказывается на вашей работоспособности. Вы — суррогат! С другой стороны, я — совершенное произведение».

Неизвестно, когда появилась такая жизнь, но на Земле она возникла четыре миллиарда лет назад, и в скором времени планета наполнилась ее разнообразными формами. В результате естественного отбора выжили самые приспособленные — те, которые могли оперативно реагировать на изменения окружающей среды. Они собирали информацию о внешнем мире с помощью сенсоров, обрабатывали ее и вели себя определенным, выгодным для себя образом.

У многих бактерий, например, есть сенсор, который определяет концентрацию сахара в жидкости. К тому же бактерии умеют плавать при помощи жгутика, по форме напоминающего пропеллер. Оборудование, включающее сенсор и жгутик, действует следующим образом: если сенсор сигнализирует о том, что уровень сахара стал ниже, чем несколько секунд назад, жгутик начинает крутиться, и направление движения бактерии меняется. Бактериям не нужно учиться плавать или измерять содержание сахара в воде. Строение бактерий и программа деятельности заложены в ДНК и не меняются весь период жизни. И форма жгутика, и чувствительность к сахару, и алгоритм поведения — результат постепенных эволюционных изменений.

Жизнь второго типа способна производить апгрейд программного обеспечения, но практически не может изменять конструкцию (хотя очки, одежда и тросточка — уже изменения в конструкции). Эта форма появилась около 100 тысяч лет назад с возникновением человека.

Люди могут улучшаться изнутри: изучать иностранные языки, осваивать новые навыки, менять взгляды, цели и ценности. Программное обеспечение человека формируется в процессе обучения и социализации. В первые годы жизни обучением занимаются родители и учителя, а затем уже сам человек определяет, чем дополнить программу: какой иностранный язык учить, в какой вуз поступать, каким видом спорта заниматься. Жизнь в этой форме совершеннее, гибче и разнообразнее, чем ее биологическое воплощение. Бактерии и растения не способны обучаться и менять поведение, а люди могут мгновенно реагировать на изменившуюся ситуацию.

Резистентность бактерии к антибиотику вырабатывается в течение нескольких поколений — бактерия не может спрятаться или по-другому защититься от антибиотика. А вот ребенок, у которого однажды случилась аллергия, сразу изменит поведение: он больше не станет есть клубнику или мед.

Именно гибкость позволила человеку доминировать на Земле. Коллективный разум освободился от генетических ограничений и стал развиваться с нарастающей скоростью: наскальная живопись, язык, письменность, книгопечатание, наука, кино, компьютеры, Интернет.

Мы даже научились немного менять конструкцию, например, вставлять искусственные зубы, кардиостимуляторы и суставные протезы, но до сих пор не умеем вносить существенные изменения: не знаем, как увеличить кластеры памяти в мозге или вы растить дополнительные конечности.

Но на смену биологической и культурной приходит технологическая эволюция. И пусть третья форма жизни пока еще не существует на нашей планете, но, возможно, она появится в ближайшие десятилетия или столетие еще при нашей жизни. Эта новая форма не будет ждать долгих эволюционных изменений, а сможет самостоятельно менять как программу, так и свою конструкцию. Несмотря на все имеющиеся у человечества знания, открытия и технологии, человеческая жизнь останется ограничена биологической структурой. Мы не можем жить тысячу лет, помнить всю информацию из Википедии, разбираться во всех научных областях (например, в теории струн) и летать в космос, когда вздумается, без космического корабля.

Исследователи искусственного интеллекта дают разные прогнозы относительно возникновения сверхразума, которые отличаются не только по сути, но и по эмоциональному накалу — от уверенного оптимизма до озабоченности, граничащей с паникой (как, например, прогнозы Ника Бострома или Илона Маска).

Основные вопросы, по которым разгораются ожесточенные споры: «Когда наступит искусственная жизнь и технологическая сингулярность?», «Что именно произойдет?» и «Чем это обернется для человечества?».

Все, что нам дорого в жизни, — продукт человеческого разума. Наша жизнь может стать еще качественнее и разнообразнее с помощью искусственного интеллекта. Информационные технологии уже оказали позитивное влияние на все сферы человеческой жизни, от медицины и образования до энергетики и финансов, но чем больше мы полагаемся на искусственный интеллект, тем больше мы беспокоимся о том, будет ли он и дальше действовать в наших интересах.

Люди научились добывать огонь, из-за которого теперь случаются пожары, поэтому нам пришлось создать огнетушитель, пожарный выход и пожарную службу. Мы изобрели самолеты, которые часто попадают в аварии, от чего возникла необходимость в постоянном усовершенствовании авиаконструкций. Однако в случае с искусственным интеллектом цена недосмотра может оказаться слишком высокой, даже фатальной. Чем более мощными становятся технологии, тем меньше мы должны полагаться на метод проб и ошибок.

Программные ошибки и неполадки в сети случались и прежде, но уже сегодня искусственный интеллект вышел за пределы компьютерной сферы — из-за ошибок в программе легко может рухнуть фондовый рынок, начаться война или разразиться ядерная катастрофа.

Вариантов воплощения технологической сингулярности великое множество: от неожиданного возникновения мощного сверхразума, который сможет сделать с миром что угодно, до постепенного перехода на новый уровень, где искусственный интеллект действует с людьми на равных, служит им или даже добровольно подчиняет себе. Не исключена вероятность и того, что сверхразум никогда не будет создан, потому что люди откажутся от научно-технического прогресса или уничтожат себя раньше.

Внезапный захват мира сверхразумом невозможен в ближайшем будущем (горизонт ближайших десяти-двадцати лет), потому что этому захвату должны предшествовать, по крайней мере, два этапа. На первом мы создаем общий искусственный интел - лект. Общий искусственный интеллект — это такой искусственный разум, который не уступает человеческому по всем параметрам. По самым оптимистичным прогнозам, он появится в 2040—2055 годах, но некоторые ученые считают, что это утопия и искусственный интеллект может превосходить человека только в отдельных областях — лучше собирать автомобили, играть в шахматы или возводить в степень десятизначные числа.

На втором этапе мы используем общий искусственный интеллект для создания сверхразума. И только после создания сверхразума человечество может позволить (или не позволить) искусственному интеллекту захватить мир. Однако в обозримом будущем человек — хозяин положения. И именно человек может задать направление дальнейшего развития искусственного интеллекта и будущего планеты в целом. Возможен вариант, как в ром ане «1984» Джорджа Оруэлла: технологический прогресс остановлен навсегда, сверхразум не создан, потому что в полицейском государстве, управляемом людьми, исследования в области искусственного интеллекта полностью запрещены — хотя он маловероятен.

Помимо сроков и сценариев появления искусственного интеллекта ученые спорят и о его целях. Должны ли мы ставить цели перед искусственным интеллектом? Одна из характеристик разума — это способность достигать сложных целей, а значит, у искусственного интеллекта также будут цели, которые перед ним поставит человек. В противном случае он их сам сформулирует. Мы создаем все более разумные машины, чтобы они помогали нам достигать человеческих задач: цели искусственного разума должны соотноситься с нашими целями.

Прежде всего, эти цели должны быть этичными и соответствовать следующим принципам. Принцип эмпатии и прагматизма: история человечества развивается в направлении уменьшения страданий, в будущем должен преобладать позитивный и сознательный опыт, а страданий должно быть как можно меньше. Это справедливо не только для людей, но и для животных, а также для всех видов искусственного интеллекта, которые будут существовать в будущем. Принцип автономности позволит искусственному интеллекту ставить собственные цели, но только если они не идут вразрез с общими целями. За образец общих целей можно взять права и свободы, провозглашенные во Всеобщей декларации прав человека ООН: свободу мыслей, слова и передвижения, право на жизнь, свободу и безопасность, свободу от рабства и мучений, работу, образование, брак и частную собственность. Принцип согласованности позволит разработать сценарий, который большинство людей посчитают приемлемым, или отказ от сценария, который большинство людей считают неприемлемым. Важен и принцип разнообразия: разнообразные позитивные ощущения лучше, чем многократное повторение самого лучшего и позитивного ощущения.

Но каким образом мы можем в нушить эти цели искусственному интеллекту и можем ли мы быть уверены, что сверхразум будет следовать нашим целям?

Люди тысячи лет живут с чувством собственной исключительности, потому что мы — единственные полностью разумные существа на Земле. И это ощущение превосходства не привело ни к чему хорошему: мы разрушили природные богатства, истребили много видов животных и неоднократно массово уничтожали целые народы. Однако совсем скоро появится общий искусственный интеллект, который превзойдет нас по всем параметрам. Может, с этим стоит смириться и позволить другим существам или формам разума быть умнее нас? Что вовсе не означает, что мы станем гражданами второго сорта и подчинимся более высокому разуму, если сами этого не захотим. Уже сегодня стоит задуматься о том, чтобы не быть рабами машин — например, не проводить много времени со смартфоном. Мы подходим к точке исторического развития, в которой нам придется пересмотреть базовые понятия, и заново возникнет кантовский вопрос: что такое человек?

Искусственный интеллект обладает даже теми качествами, которые мы привыкли считать сугубо человеческим. Например, интуиция на поверку оказывается чрезвычайно быстрой обработкой сигналов и сопоставлением их с накопленным опытом. Последние двести лет человек привык чувствовать себя хозяином природы, но сейчас мы опасаемся, что создаем себе другого господина: либо международную элиту, либо и во - все искусственный интеллект, многократно превосходящий человеческий.

Искусственный интеллект уже вокруг нас, от беспилотных машин и дронов до виртуальных помощников и программ для перевода. Любую вещь можно сделать «умнее», встроив в нее чип и при помощи облачных технологий соединив с глобальным искусственным разумом. Умные вещи сами выберут режим стирки, умные игрушки смогут общаться с ребенком и станут больше похожи на домашних любимцев, умные датчики смогут круглые сутки контролировать состояние больного и подбирать лечение.

Одним из мостиков, который свяжет реальный и цифровой мир, станет Интернет вещей. Первым настоящим искусственным интеллектом будет сеть, состоящая из миллиардов чипов. Любое устройство или человек, присоединившись к этой сети, сможет пользоваться ее интеллектом и одновременно обогащать его собственным умственным потенциалом и опытом. Подобный нейроинтерфейс среди прочих разрабатывает компания Илона Маска «Нейролинк». В перспективе человека ожидает физическое бессмертие благодаря клонам или в форме компьютерной программы.

Человек будет все время заново изобретать самого себя: технологии изменят само понятие «быть человеком», преобразятся фундаментальные структуры жизни, основным качеством человека станет изменчивость. Гендерная идентичность станет подвижной, компьютерный интерфейс и дополненная реальность одарит человека новыми ощущениями. Возможно, появятся новые формы воплощения человеческой жизни, от киборгов до человека, реализованного в облаке данных.

Поиски идентичности сделаются намного более сложными и насущными, чем когда-либо в предшествующие эпохи. Да это уже и происходит, чем вызван высокий уровень стресса современной жизни. Мы наблюдаем повсеместные попытки «сохранить стабильность» и «старый мир»: в лучшем случае новейшие достижения проносятся мимо стран и людей, которые не желают меняться, в худшем — возникает цивилизационный конфликт.

Различные мифы и нарративы, на которые человек привык опираться — национальные, культурные, религиозные, — отпадают, и остается лишь индивидуальный, постчеловеческий миф. Этот миф призывает бороться за свободу и творить, каждый раз заново решая вопрос о том, кого можно отнести к человеческому роду. Семиотик и философ Вадим Руднев, отвечая на вопрос о том, каждый ли представитель вида «гомо сапиенс» может быть назван человеком, а следовательно, и судиться человеческой меркой, для решения проблемы приводит интерпретацию культового фильма Ридли Скотта «Бегущий по лезвию», которую делает философ Славой Жижек. В соответствии со Славоем Жижеком, не знание человеком того, что он человек, а именно незнание этого факта делает его человечней. Невозможность достоверно установить главным героем «Бегущего по лезвию», является ли он землянином или роботом-репликантом, заставляет его в любой ситуации поступать по-человечески. Логика проста: даже робот-репликант, поступающий по-человечески, обязательно станет человеком.

Люди уже сейчас проводят половину жизни в соцсетях, конструируя свое «Я». Другие люди видят в этом подмену реальной жизни, не замечая, что и в реальной жизни они опираются на иллюзии и когнитивные искажения. Признание «Я» и «свободы воли» фикцией вернет нам свободу. Человек должен понять, что он — не связная история, так же как и признать факт отсутствия абсолютных категорий свободы и смысла. С чем мы остаемся, когда мир лишает нас даже иллюзии собственного «Я»?

Реальным остается страдание другого человека и наше к нему сострадание. Удивительным образом древние религии, и духовные практики (буддизм, даосизм, эзотерические учения), и классический либерализм утверждают реальность чужого переживания. Даже если мы голограммы в матрице, страдание конкретного человека в этой матрице всегда безусловно реально.

Так, совершив огромный круг — представив почти немыслимое и близкое будущее, где человек может утратить и биологический облик, и все привычные социальные статусы и принять как единственную данность постоянство перемен (по футурологу Жаку Фреско), мы подходим к точке, где некогда начинался первобытный человек. Эта точка — признание реальности Другого, реальности сострадания к Другому, может, даже полностью искусственному Другому. И это же точка, где зарождается понятие о достоинстве и правах человека. Хотя именно к этому понятию апеллируют противники перемен: дескать, человек генно-модифицированный, с искусственными органами, живущий на других планетах, не размножающийся больше половым, а итерационным способом, превратившийся в алгоритм внутри искусственного интеллекта, больше не человек, а его уникальное достоинство уничтожено. На самом деле достоинство человека уничтожается лишь отказом признать человеческое достоинство другого и нежеланием поступать по-человечески.

Эмпатия, то есть сострадание ко всему живому, обладает поразительной способностью расширяться, охватывая все новые и новые существа. Ныне существуют общества, защищающие права животных и даже права растений. Крупнейший американский писатель XXI века Дэвид Фостер Уоллес пишет эссе в защиту омаров. Если появятся машины и алгоритмы, способные к страданию и человечности, сострадание распространится и на эти машины.

Говоря об искусственном интеллекте, мы обычно имеем в виду исключительно технические характеристики. Однако он становится все совершеннее и, возможно, со временем сможет не только обрабатывать информацию, но и испытывать субъективные ощущения и приобретать опыт, то есть станет осознанным, если мы ему это позволим.

С одной стороны, подсознательно люди не хотят, чтобы роботы страдали и болели, чтобы чувствовать себя исключительными (и не чувствовать себя рабовладельцами). С другой — все этические принципы, рассмотренные выше, теряют смысл, если искусственный разум не способен чувствовать. Кроме того, человеку чувствующему непросто будет взаимодействовать с «бесчувственным» разумом, который сможет причинить зло, не ведая, что творит.

Изменится и экономика. Мы сможем получать бесплатно все, что необходимо для жизни. Уже сегодня в Канаде, Финляндии и Швейцарии проводятся эксперименты по предоставлению гражданам гарантированного базового дохода, и общественные деятели во многих странах заявляют, что идея разделения богатств актуальна уже сегодня, когда растет пропасть между богатыми и бедными. Раньше мы платили за телефонные звонки — теперь общаемся с близкими бесплатно, нам приходилось покупать энциклопедии и атласы — сейчас вся информация есть в сети в свободном доступе.

До конца текущего века роботы отберут у людей большую часть рабочих мест. В будущем немногие из нас будут работать, и уровень безработицы будет высоким, как никогда раньше. Наш будущий финансовый успех зависит от того, насколько эффективно мы сможем с ними сотрудничать, уступая им всю тяжелую, утомительную и сложную работу.

Человечество уже сталкивалось с подобной проблемой. В процессе индустриализации ручной труд был заменен механическим, и многие традиционные профессии исчезли. Но взамен возникло еще больше новых, и люди не остались без дела. Кроме того, гораздо больше людей посвящают себя искусству, литературе, спорту или выбирают совсем уже уникальные творческие профессии. Водитель, одна из самых популярных профе ссий, скоро исчезнет. Беспилотные автомобили уже проходят испытания и скоро появятся на дорогах, а затем вытеснят традиционные автомобили.

Будут востребованы профессии, в которых важны креативность, развитые социальные навыки и умение работать в меняющихся условиях. А там, где нужны структурированные, повторяющиеся действия и точные вычисления, машины уже сейчас эффективнее людей.

Однако общество, где будет много безработных, может быть вполне преуспевающим, если люди научатся находить радость не только в карьере, деньгах и положении в обществе, но и в социальных связях, здоровом образе жизни, учебе, хобби, принятии собственных особенностей, ощущении себя частью важного целого.

В процессе подготовки к новой искусственной форме жизни нужно адаптировать законодательство к присутствию искусственного интеллекта во всех сферах жизни. В области закона и порядка тоже ожидаются большие перемены: неутомимые и неподкупные роботы-полицейские и робосудьи будут эффективнее людей, а законы, касающиеся неприкосновенности частной жизни, финансовых обязательств и частной собственности, нужно будет как можно быстрее адаптировать под новую жизнь, в которой присутствует искусственный разум. В международном законодательстве важно продумать все аспекты, связанные с вооружением.

За страхом потерять работу и остаться ненужным таится и главная экзистенциальная проблема XXI века: исчезновение человеческого вида в том виде, в каком мы привыкли себя представлять. Информационные технологии в сочетании с биотехнология - ми постепенно делают наш мозг прозрачным. Алгоритмы наших решений теперь понятны, и на них можно влиять, можно даже принимать решения за нас. Ключевые слова в рекламе подбираются уже даже не с учетом целевой аудитории, а нацелены прямиком на поисковую систему, чтобы сообщение попало в топ. Современный писатель Виктор Пелевин в романе «iFuck 10» пишет:

«Если наделить алгоритмический рассудок способностью к самоизменению и творчеству, сделать его подобным человеку в способности чувствовать радость и горе (без которых невозможна понятная нам мотивация), если дать ему сознательную свободу выбора, с какой стати он выберет существование? Человек ведь — будем честны — от этого выбора избавлен. Его зыбкое сознание залито клеем нейротрансмиттеров и крепконакрепко сжато клещами гормональных и культурных императивов. Самоубийство — это девиация и признак психического нездоровья. Человек не решает, быть ему или нет. Он просто некоторое время есть, хотя мудрецы вот уже три тысячи лет оспаривают даже это».

На уровне отдельной личности возникает сильнейший страх не вписаться в эпоху перемен или же, наоборот, измениться слишком сильно и перестать быть собой. Этот страх проявляется и в виде протеста против либерализма, глобализма и технологической цивилизации: человеку кажется, что он сохранит смысл, если продолжит принадлежать к традиционной культуре, и в этой цельности ему будет легче воспротивиться переменам.

Науке известны биохимические реакции, которые воспринимаются нами как эмоции и состояния души, и созданы лекарства, управляющие эмоциями. Означает ли все это, что обычный человек отменяется?

С одной стороны, человек рискует утратить неотъемлемые атрибуты, такие, как свободу воли, экзистенциальные ценности, статус гражданина, а с другой стороны, открывается возможность для создания сверхчеловека (необязательно в ницшевском изводе).

Нынешняя глобальная элита может использовать новые технологии для того, чтобы навсегда закрепить свое положение, и на том прекратится всякая социальная мобильность и возможность демократии. Элита может улучшать ДНК своего потомства, обеспечить себе бессмертие, лишив такой возможности всех остальных, и тогда уже это приведет к непреодолимому социальному расслоению.

На уровне социальном у людей существенно опасение, что под видом либеральной демократии на правительственном и мировом уровне осуществляются тотальная манипуляция и зомбирование. «Большие данные» («Big Data») делают нас «прозрачными», жизненно важные политические и экономические решения принимаются алгоритмами, информационные и биологические технологии управляют разумом и эмоциями. Не едем ли мы прямым рейсом в Дивный новый мир?

Давайте представим, что прошло 50, 100 или 500 лет и наступила новая технологическая жизнь. Какой она будет, во многом зависит от наших ожиданий и действий. Искусственный интеллект может как значитель но улучшить нашу жизнь при условии, что мы не будем торопиться вводить новые устройства на его основе в эксплуатацию, так и поставить ее на грань исчезновения.

Чтобы избежать трагедии, важно, чтобы цели искусственного разума совпадали с целями людей и были этичными. И уже сегодня нужно разрабатывать коды, которые позволят разъяснить искусственному интеллекту этические принципы.

Нам не стоит бояться, что искусственный интеллект превзойдет человеческий. Это неизбежно — во многих областях он уже впереди. Вероятно, пришло время перестать гордиться интеллектуальным превосходством, а обратить внимание на духовную и эмоциональную жизнь, превратиться из человека разумного в человека чувствующего и сочувствующего. Возможно, искусственный разум тоже со временем научится испытывать субъективные ощущения, и они с человеком будут лучше понимать друг друга. Роджер Желязны, из книги «Имя мне легион. Возвращение палача»: «Куда ты идешь? — К звездам. Пока я несу в себе отпечаток человека, но я знаю, что я в то же время уникален. Возможно, что мое желание сродни тому, которое люди называют „поиски себя“. Теперь, когда я обладаю полнотой бытия, я хочу испытать его. В моем случае это означает реализацию возможностей, вложенных в меня. Я хочу пройти по другим мирам. Я хочу высунуться туда, за небесную твердь, и рассказать вам о том, что увижу там».

Невозможно предсказать конкретные детали будущего, но общие тенденции ясны. Мир изменится. Это неизбежно. Но то, каким он будет, во многом зависит от нас, поэтому не стоит прятаться от движущегося поезда, нужно честно признаться себе, каким мы хотим видеть будущее, и приложить усилия, чтобы оно стало именно таким. Ведь все самое интересное и невероятное, чем мы будем пользоваться через 20—30 лет, пока еще не изобретено. А это значит, что мы не опоздали и еще можем сделать вклад в построение будущего. И это хорошая новость.


Литература:

1. Ник Бостром. Искусственный интеллект, 2016.

2. Уильям Гибсон. Периферийные устройства, 2014.

3. Митио Каку.Физика будущего, 2012.

4. Кен Уилбер. Краткая история всего, 2015.

5. Жак Фреско. И будет лишь один мир, 1997.

6. Михаил Эпштейн. Робот — самый человечный человек // Новая газета, 2008.

7. Pedro Franco. The Blockchain // Understanding Bitcoin: Cryptography, Engineering and Economics. — John Wiley & Sons, 2014. — 288 p.


Журнал "Нева"  2020 г. № 9

https://magazines.gorky.media/wp-content/uploads/2020/09/09-Vinnichuk.pdf
завтрак аристократа

«У всех современных технологических компаний есть сверхидея для человечества»

Елена СЕРДЕЧНОВА

28.08.2020

Рисунок: Владимир Буркин.

Постсовременность — непростое время для жизни. Вопросов — много, ответов — мало, будущее — пугает. Хорошо бы в этой ситуации иметь компас — идеи, которые помогут сориентироваться в мире. «Культура» поговорила с представителем университета Singularity из Кремниевой долины Евгением Кузнецовым. Он рассказал, какими идеями руководствуются крупнейшие технологические компании, продвигая свои продукты, и о том, что новая религия будущего появится как синтез ответов на вопросы: что такое бесконечно живущий человек, что такое человек-роботическое взаимодействие и что такое равенство и взаимопроникновение всех культур.

— Есть ли у крупных технологических корпораций мировоззренческие концепции, которые определяют их деятельность?

— У всех современных технологических компаний, особенно у тех, которые выросли из стартапов, есть сверхидея. Это фундаментальное свойство стартап-культуры. Оно предполагает, что у предпринимателя должно быть глобальное видение, если оно отсутствует, то ему не будут доверять. Поэтому практически все новые сверхкорпорации типа Google и все технологические стартапы имеют миссию — великую сверхцель. И вектор этой миссии всегда глобальный.

— Что это значит?

— Я имею в виду характеристику масштаба. Это значит, что компании занимаются действительно глобальными вещами, хотят значительных изменений для подавляющего числа жителей планеты. Они разрабатывают технологии, которые облегчают доступ к информации, продуктам, другим благам. Например, знаменитая история Илона Маска, связанная с переселением на Марс, как способом разгрузить планету, сделать дополнительный путь развития для человечества. Или история с Джеффом Безосом, вкладывающим миллиард долларов в год в разработку ракет, которые будут вывозить все опасные производства в космос.

— А есть у миссии свои идеологи?

— Есть идейные авторитеты, тот же Рэймонд Курцвейл (создатель систем распознавания речи и футуролог. — «Культура»). Они предлагают привлекательную картинку общества всеобщего благоденствия, которое обеспечат технологии. Но нельзя сказать, что это религиозного масштаба лидеры, они простые люди: работают, делают свои проекты. Это, скорее, некое комьюнити, которое живет определенным образом и ведет постоянный диалог. К примеру, есть довольно много людей, которые верят в искусственный интеллект и хотят приблизить ситуацию, когда появится искусственный сверхинтеллект и возникнет возможность трансфера человеческого сознания в компьютер. Есть те, кто не согласен с таким подходом и видит в искусственном сверхинтеллекте огромную опасность, поэтому делает ставку на интеграцию человека и машины, которая усилит способности человека.

— Немного непонятно, чем отличаются подходы.

— Они отличаются довольно сильно, потому что в первом — сверхинтеллект самодостаточен и может быть равноправным участником общественного развития, как и человек, а Маск, и не только он, опасается, что в этом случае искусственный интеллект быстро вырвется из-под контроля и человек окажется в незавидном положении.

— То есть вера в технологии фактически заняла то место, которое прежде занимали идеологии? Если рассматривать их под таким углом, как они меняют наше общество? Например, сокращают разрыв между богатыми и бедными или нет?

— К сожалению, нет. Исследования показывают, что с развитием технологий разрыв между богатыми и бедными, напротив, растет. Половина богатства мира в руках 26 человек, значительная часть получила это богатство совсем недавно, за счет новых технологий. Сейчас речь идет о том, способен ли капитализм обеспечить устойчивое развитие. Именно поэтому начались левацкие выступления в Америке, а демократы начинают строить социализм.

— То есть формируются новые правила игры?

— Да. И при этом роль государства будет усиливаться, чтобы сдержать кризисные явления. Но это временно, связано с вхождением в «шторм». Думаю, что вслед за этим начнется формирование новой общественной модели. Потому что крупнейшие корпорации хотят по-своему заниматься регулированием глобального развития.

— Если произойдет повсеместное внедрение искусственного интеллекта и массовая роботизация, это изменит тот мир, который нам знаком?

— Это на самом деле краеугольный вопрос сейчас, здесь сталкиваются интересы бизнеса и государства. Бизнесу выгодно выходить на максимально роботизированные платформы, безработица же ложится на общество. И сейчас идет большая дискуссия, как регулировать это соотношение, кто должен брать на себя ответственность за социализацию и трудоустройство людей, потерявших работу. Есть предположение, что ситуацию выправит безусловный доход — выплата, которая будет идти всем, независимо от того, работает человек или не работает. Некая сумма, на которую можно будет, в принципе, жить. В целом же рынок труда претерпит сильные изменения. Половина рабочих мест будет роботизирована, соответственно, большая армия людей будет нуждаться в переобучении. Это, кстати, еще одна причина усиления государства, потому что именно оно будет вынуждено решать эти проблемы.

— А какие конкретно проблемы?

— Возможны два сценария. Первый, когда совершенные алгоритмы для решения рутинных работ приведут к тому, что какая-то часть профессий исчезнет, как исчезли машинистки. Но сказать, что это было катастрофой для общества, нельзя. Периодическая замена профессий неизбежна. Это мягкий сценарий. Второй сценарий более жесткий. Роботы будут очень сильно эволюционировать и заменять людей в большинстве профессий. Это, конечно, очень опасный сценарий, потому что возникает вопрос: а что делать людям? Какой сценарий будет реализован, станет понятно в ближайшие десять лет.

— А у технологических компаний есть понимание, что за какую-то черту опасно заходить в своих глобальных проектах для человечества? Они ограничены какими-то этическими рамками или нет?

— На эти вопросы общество не выработало ответов, и в данный момент ограничителей нет. Есть небольшое количество сфер, развитие которых сдерживается. Например, клонирование, которое сейчас фактически запрещено, и редактирование человеческого генома. А вот все, что касается роботизации, тут какой-то позиции нет. Самый наглядный пример — нет даже консенсуса относительно запрета военных роботов. С одной стороны, все понимают, что это опасно — брать роботов на вооружение. С другой стороны, у всех государств чешутся руки попробовать. Это позволяет компаниям не думать о последствиях и просто действовать. Мы проходили это в прошлом, когда была индустриализация. Огромное количество населения меняло свой образ жизни, вынуждено было переезжать из деревни в город, что приводило к очень большим социальным потрясениям. Но сдержать прогресс никто не мог, опасаясь проиграть конкуренцию более развитым индустриальным странам. Сейчас драйвером технологического развития является конкуренция между Америкой и Китаем. И если в США и Европе редактирование человеческого генома ограничивается, то китайцы это делают подпольно и вырываются вперед.

— Как будет выглядеть массовое генетическое редактирование для обычного человека?

— Первое: возможность родить здорового ребенка людям с генетическими заболеваниями. Сейчас это делают, перебирая эмбрионы, выбирая генетически «чистый». Так себе практика, с точки зрения этики. Редактирование даст возможность убрать все гены, связанные с болезнью. Второе — можно корректировать определенные участки генома у взрослых, избавляя от болезни, увеличивая продолжительность жизни. Третье — генетическая терапия онкологии — это космически дорогая технология, но она работает.

Я перечислил очевидные плюсы, но возможности редактирования человеческого генома этим не ограничиваются. Например, существует возможность спроектировать ребенка. Сделать его когнитивные функции более развитыми, изменить цвет глаз и длину ног. Фактически это евгеника 2:0. Получается, что появляется возможность управлять генотипом людей. И, конечно, она вызывает огромное количество вопросов, как этических, так и научных. Например, как редактирование генома повлияет на человеческую эволюцию.

— Мне кажется, что там, где мы говорим об этике, мы говорим на самом деле о природных механизмах естественного отбора. Это правила биологической безопасности.

— В том числе. Но надо отдавать себе отчет, мы уже вмешиваемся в эти механизмы. Например, мы лечим людей, которые должны были умереть. Так что уже сейчас человеческий вид регулируется как раз таки этикой.

— В истории человечества уже были периоды, когда технологическое развитие совершало масштабный скачок.

— Такие периоды действительно были, и именно появление новых технологий полностью ломало цивилизацию. Например, катастрофа бронзового века, когда фактически сформировалось глобальное человечество — торговля шла от Индии до Британии, был единый торговый язык. Стабильность конструкции поддерживалась за счет ограниченного количество олова, страны-лидеры поддерживали его оборот. Так продолжалось почти тысячелетие, пока не появилось железо. Более бедные народы с железным оружием могли бросить вызов великим империям и разрушить их. Затем почти тысячелетие длились темные века.

— Когда меняется строй или на смену империи приходят варвары, то появляется и новая религия. Какая-то квазирелигиозная система может появиться сейчас, если произойдет технологический скачок?

— Все начинается с появления новых технологий, происходит изменение методов управления. Потом идет смена биологического и культурного «слоя». Люди сначала создают возможности, потом они учатся управлять этими возможностями, а потом эти возможности начинают уже менять людей и формировать новую реальность. Мы пока живем в начале первой фазы, новые технологии, искусственный интеллект, генное редактирование, они только разворачиваются, полного объема и полного масштаба эти технологии еще не увидели. С течением времени, действительно, должна прийти какая-то новая культурная и идеологическая парадигма.

Я думаю, что здесь будет происходить то же, что происходит в технологиях управления: децентрализация и переход к распределенным сетевым формам. Мы будем уходить от иерархически организованных религий и приходить к религиозным идеологическим форматам, которые создаются самими людьми в процессах ежедневных коммуникаций и поддерживаются за счет сетевых процессов. Эти феномены создают новую реальность. В ней дистрибуция знаний и дистрибуция веры перестают работать, люди начинают доверять таким же, как они, а не авторитетам. Будут формироваться устойчивые сетевые мнения.

— Как фейк-ньюс?

— Именно. Это сейчас очень актуальная проблема, когда большое количество людей может запросто убедить себя и других в существовании какого-то явления, например, что Земля — плоская. Это такой сетевой феномен, который является паразитическим, но не всегда деструктивным. Зависит это от комьюнити. Продвигает оно позитивные ценности — вам повезло, деструктивные — добро пожаловать в ад. Сейчас в США формируется глобальная ревизия ценностей в русле антирасистской идеологии. Это тоже работает как сетевой феномен, тысячи кейсов, как кого-то лишают званий, кого-то выгоняют из университета, и все это действует не как политическая сила, а как толпа, организованная через Сеть. Она очень быстро накидывается на ту цель, которая кажется ей противником.

— Вопрос, так ли хороша отсутствующая иерархия? Нет иерархии, и какое-то безумие, хаос.

— Новая реальность наступила, мы ничего не можем поделать. Так работают сетевые правила. Тут вопрос: сетевая организация может прийти к позитивному развитию или она неизбежно свалится в хаос? Все надеются, что они — саморегулирующие механизмы. Но пока мы видим, скорее, вирусы, которые поражают человечество и ведут к очень патологическим последствиям. Это тревожная история, потому что никто не знает ответа, а просто выключить компьютер не получится.

— Ну все-таки вы ответили про форму. А по содержанию, что это будет за религия, какие, например, у нее будут представления о загробном мире, что собой будет представлять божественное, какие этические нормы?

— Я не пророк, поэтому не готов ответить на эти вопросы. Могу только предположить, что мы вступаем в период осмысления совершенно нового места человека в мире. Начнем с того, что мы теоретически приближаемся к возможности бессмертия или достаточно радикального продления жизни. Что такое общество, в котором человек проживает две, три, четыре жизни, а не 20-30 лет карьеры. Что будет происходить с молодежью?

— Она не нужна тогда, зачем молодежь какая-то?

— Впервые в истории человечества религия появится при таких условиях. Все предыдущие религиозные системы возникали в мире, где люди жили недолго, смерть была очень близкой, поэтому надо было быстро ответить, зачем я живу, болею, мучаюсь. Ради чего? А сейчас появляется перспектива, что, в принципе, в земной жизни можно устроиться надолго. Это радикально меняет картину мира. Это первая вводная. Вторая — появляется мир железных слуг-роботов, которые облегчают человеку жизнь, но могут в какой-то момент потребовать субъектность. Но готовы ли мы к этому? Что такое личность? Может ли быть ею робот? Может ли он быть субъектом права? Вот произошла авария с беспилотным автомобилем, кто будет отвечать?

— Мне кажется, тот, кто его разрабатывал, и тот, кто на этом деньги зарабатывал, тот пускай и отвечает.

— Тот, кто разрабатывал, быстренько объяснит, что все работало хорошо до тех пор, пока кошка не выпрыгнула. Робот — это самообучающаяся система, он рано или поздно обособится от своих создателей. Поэтому он, несомненно, станет субъектом права, и отвечать будет именно он. Третья вводная — у человечества сейчас длинная стадия размежевания. Но она закончится, и начнется стадия интеграции глобальной. Будет такое глобальное человечество — мультикультурное, мультиобщественное. Хотите жить людоедами — пожалуйста, это же просто ваша культурная особенность. Сейчас уже и до этого договариваются. Возникает переоценка этических принципов иудео-христианской цивилизации.

И это очень серьезный вызов, прогресс перестает принадлежать тем, кто его осуществлял. Все страны начинают требовать равного доступа к нему — соответственно, имеют полное право жить так, как они хотят. Поэтому новая религия появится как синтез ответа на эти вопросы: как жить, что такое бесконечно живущий человек, что такое человек — роботическое взаимодействие и что такое равенство и взаимопроникновение всех культур.

— Познавать мир будут машины, и познавать лучше, чем человек, дети будут не нужны, человек будет практически бессмертен, зачем жить?

— Это и есть набор вопросов, на который сейчас нет внятного ответа и вокруг которого вся проблематика и вьется. Мы видим эволюционное развитие, которое делает человека постепенно все более праздным. Историки считают, у человечества был период, когда оно тратило не так много усилий на добывание пищи. Когда началась эра земледелия, количество труда резко выросло. Но оно снижается. И сегодня праздность — скорее, баланс между работой, стрессом и отдыхом, творческим самовыражением. Люди, которым удается его соблюдать, живут дольше. И появляется новая этика, новые ценности. Миллениалы уже не хотят работать по 20 часов в день, они хотят сейчас жить счастливо.

Если смотреть на будущее объективно, то снижение доли труда в человеческой жизни к катастрофе не приведет. Просто досуг, хобби, общение будут играть все большую роль.

— Многие ученые считают, что у человеческого организма есть предел возраста — 120-130 лет. И этот предел не перешагнуть никогда. Как мы можем говорить о бессмертии?

— Это тоже гипотеза, что 120 лет предел, а дальше — разрушение мозга. Сейчас находят один за другим клеточные механизмы старения, они поддаются воздействию. Другое дело, что биохимический ансамбль человека настолько сложен, что совершенно непонятно, к чему это приведет. Например, сегодня только читал о Рапамицине — лекарстве против старения, оказывается, оно вызывает мозговые расстройства. То есть жить будешь долго, но рассудок потеряешь. Но это не отменяет саму идею продолжительной жизни. На самом деле современная медицина, даже без каких-то чудесных вещей, способна продлить жизнь. Поэтому до 120 лет мы дойдем даже без специальных ухищрений. А уж больше — только с помощью ученых.

— Все 7 миллиардов жителей Земли дойдут или нет?

— Я абсолютно уверен, что нет, потому что для того, чтобы жить долго, нужно использовать множество инструментов: и генетических, и специальных лекарств, а самое главное — вести правильный образ жизни. Это доступно гораздо меньшему количеству людей, чем пресловутый золотой миллиард.

— Получается, это не для нас?

— Вполне возможно, что и в России можно будет организовать эти технологии. Но это потребует трансформации системы здравоохранения. Самый простой пример: в Китае и в Америке буквально сотни, если не тысячи лабораторий занимаются редактированием генома, и, соответственно, как только будут нащупаны устойчивые, надежные, этичные методы, то проблем масштабировать их не будет. В России таких лабораторий, дай Бог, десять. Если завтра кто-то скажет, что научились лечить рак методом генного редактирования, то в Китае и США это за год произойдет, а в России?

— Я слышала, у вас есть три сценария возможного развития на ближайшие 20 лет. Не могли бы их озвучить?

— Первый сценарий — это общество всеобщего благополучия. Технологии развиваются, блага — увеличиваются, человечество двигается вперед, к светлому будущему. Еще лет пять назад этот сценарий казался очень вероятным для большинства стран. Второй сценарий — это рефлексия на реальность, которая нас окружает. Он предполагает неравномерность технологического и социального развития, которое будет приводить все к большим рискам. Поэтому государства будут вынуждены брать эти сферы под контроль, ограничивая и управляя научно-технологическим развитием. Этот сценарий я назвал «инквизиция». Мы сейчас начинаем двигаться именно по нему. Он предполагает новую холодную войну между крупнейшими странами. С одной стороны, возможные техногенные катастрофы предвосхищаются и купируются. С другой — тормозится развитие. Ну и третий сценарий — новые технологии вызывают деструктивные процессы, которые разрушают ведущие страны и позволяют аутсайдерам занять их место.

— Аутсайдерам или роботам?

— Государствам-аутсайдерам, потому что роботы вряд ли смогут это сделать. Наиболее вероятный сценарий, естественно, второй. Поэтому думаю, что нас ждет история глобальной конкуренции. Но через 20–30 лет с неизбежностью человечество совершит очередной технологический рывок, который все равно кардинально изменит нашу жизнь.



https://portal-kultura.ru/articles/world/328461-evgeniy-kuznetsov-universitet-singularity-u-vsekh-sovremennykh-tekhnologicheskikh-kompaniy-est-sverkh/
завтрак аристократа

«Мы носители мозга, который рассчитан на пещерные времена» 17.08.2020

Можно ли посчитать мысли



Ученые никогда не смогут читать мысли, как книгу, но расшифровать намерения человека можно уже сейчас


В голове человека, подсчитали ученые, за день возникает около 6 тысяч мыслей. Каким образом их считали? Есть ли шанс научиться их «считывать»? В конце концов, чем отличается наш мозг от мозга кроманьонца и можно ли заморозить мысли до лучших времен — когда, к примеру, получится их додумать? На эти и другие вопросы «Огоньку» ответил известный психофизиолог, заведующий лабораторией нейрофизиологии и нейроинтерфейсов на биологическом факультете МГУ им. М.В. Ломоносова профессор Александр Каплан.

Беседовала Елена Кудрявцева

— Александр Яковлевич, начнем, как говорится, сначала. Скажите, что же такое мысль? Как на этот вопрос сегодня отвечают ученые?

— Попробую упростить. Все объекты и все явления природы существуют в нашем сознании в виде понятий: «рама», «мама», «мыла» и тому подобное. Далее, операции с понятиями называются мышлением. А логически завершенная операция с понятиями — например, «мама мыла раму» — есть мысль. Если же в голове роятся неясные образы, еще не обозначенные понятием, то это тоже важные психические процессы, но всего лишь подготовительные процессы к мысли.

Обычно мысль — это не одно понятие и не одно слово, это целое предложение. В среднем в литературных текстах будут встречаться предложения от 11 до 17 слов. В «Анне Карениной», например, средняя длина предложения — 14 слов. Чтобы высказать мысли длиной 14 слов, потребуется около 9–10 секунд. Вот вам длительность среднестатистической мысли. Несложно подсчитать: если непрерывно мыслить в течение 16 часов бодрствования, наберется около 6 тысяч мыслей!

— И все-таки, что представляет собой мысль с точки зрения физики и химии мозга?

— Понятно, что рождение мыслей как-то связано с работой нервных клеток, то есть с их химией и физикой. Но мысль не вытекает из нейронов, как желчь из клеток печени, потому что мысль — это не вещественный, а информационный продукт работы мозга. Поэтому сколько бы мы ни препарировали мозг скальпелем, сколько бы ни пытались регистраторами измерить превращение молекул или, скажем, изменение биопотенциалов, мы эту мысль все равно не увидим.

Особенностью информационных продуктов является вот что: увидеть их можно только с помощью настроенных на них приемников информации. В наших примерах для мысли и для фото нужен особый приемник — разум человека. Но даже в этом случае для передачи и восприятия мысли нужно, чтобы она, эта мысль, посредством нейронов моторной речевой зоны мозга и голосового аппарата превратилась в звуковые колебания. Затем посредством слуховых рецепторов и нейронов сенсорной речевой зоны эта мысль может восстановиться из звуковых волн… в мысль у другого человека. Код нервных клеток субъективно воспринимается как мысль. Знаменитый канадский нейрохирург Уайлдер Пенфилд еще в 1960-х годах установил, что искусственная стимуляция корковых нейронов действительно может вызвать у человека отголоски образов и мыслей.

Как жизнь учит думать

— Простите, но откуда же тогда берутся эти коды мозга?

— А вот это пока для нас тайна! Мы не знаем, каким образом наши намерения — желания, эмоциональные порывы, творческие озарения — формируют нейронные коды, отзывающиеся в сознании мыслями. Еще большая интрига в том, как наши мысли становятся действенными. Как они превращаются в коды, определяющие наши движения? В самом деле, а кто вообще написал эти коды?

Концептуальный ответ на эти вопросы предложил выдающийся российский философ и теоретик мозга Давид Дубровский. Разгадка, полагаю, в том, что люди не рождаются с готовыми кодами для общения нервных клеток. Эти коды формируются по ходу индивидуального развития человека. В каждом элементарном действии перебирается множество спонтанных посылок от одной нервной клетки к другой, пока не находится такой вариант, который активирует следующую клетку с нужным эффектом.

Этот эффективный код и запоминается. Так создается нейронная кодовая сеть. К примеру, у ребенка желание схватить игрушку поначалу транслируется к моторным нейронам почти в случайных нервных импульсах. Это видно по первоначально неумелым движениям грудного ребенка. Но работа нейронных сетей мозга всегда нацелена на конкретный результат: согласно намерению, игрушка должна оказаться в руке. В конце концов выработается такое распределение команд между нейронами и к конкретным мышцам, которое приводит к точному движению руки к игрушке. Это и есть код. Мы говорим: навык сформировался. Коды нервных клеток создает сама жизнь!

То же самое происходит, когда что-то «крутится в голове», на самом деле подыскивается такое распределение активностей нейронов, которое субъективно проявится как конкретная мысль. Получается, что мысль — это тоже действие, обусловленное нервным кодом. Только не двигательное, а умственное.

— Да, но как же тогда с главной интригой? Как рождаются новые мысли? Как они превращаются в нервные коды, чтобы командовать нашими действиями?

— А это — главная тайна мозга. Она еще не открыта. Но мы, кажется, можем порассуждать: мысль возникает после того, как у нас активировалась конкретная нейронная сеть. А мышление — это комбинирование мыслей, то есть взаимодействие соответствующих этим мыслям нейронных сетей. Вот в этом взаимодействии и рождается новая нейронная комбинация и соответствующая ей новая мысль. Закономерности комбинирования нейронных сетей пока неизвестны. Но понятно, что там нет мистики — они находятся под контролем текущих потребностей конкретного человека.

— В новом исследовании канадские ученые из Королевского университета в Кингстоне пришли к тому же выводу, что и вы: за день у человека возникает 6 тысяч мыслей. Что и как считали в данном конкретном случае?

— Для изучения мыслительной деятельности человека канадские исследователи воспользовались очень популярным в настоящее время инструментом — магнитно-резонансным томографом (МРТ). Это такой большой магнит весом под 3 тонны, с трубой посередине, куда укладывают человека, чтобы, например, по реакциям молекул гемоглобина в магнитном поле с большой точностью получить карты интенсивности кровотока в объеме мозга. Идея в том, что если в какой-то области мозга показатели кровотока увеличиваются, то это может быть признаком усиления активности нервных клеток именно в этой области.

Ученые задумали посмотреть, а как будут меняться карты активации мозговых структур, если испытуемым — прямо в трубе МРТ — показывать короткие фильмы с однозначными действиями (сюжеты: «Он идет по лестнице», «Они едут в машине», «Метеорит падает на Землю» и т.д.). Проанализировав данные 184 испытуемых, ученые обнаружили любопытный факт: карты активности мозга, как правило, резко меняются только синхронно с началом и завершением коротких смысловых конструкций в клипах. Если показать испытуемым бессмысленные клипы, то этого не происходит. Ученые считают, что спокойные участки карт мозговой активности между моментами их резких трансформаций отражают протекание элементарных мыслей! Таких переходов между трансформациями карт МРТ они насчитывают в среднем 6,5 в минуту: за период бодрствования, с учетом 8-часового сна, действительно получается около 6 тысяч мыслей.

— Если данные канадских исследователей, полученные на магнитном томографе, в точности совпадают с вашими рассуждениями о предложениях в «Анне Карениной», то можно пофантазировать дальше. И прийти, предположим, к выводу, что в этом произведении из 253 311 слов Лев Николаевич Толстой высказал 17 838 мыслей!

— Не будем наивными! Мы же по себе знаем, что далеко не каждую минуту в голову приходит какая-то мысль. Да и в иных книжках (я, разумеется, не о Льве Николаевиче) не все предложения наводят на полноценные мысли…

— Хорошо, а что из этого следует? Может ли человек не думать? Почему «состояние недумания» так ценится в восточных культурах?

— Известная игра в «не думать про белую обезьяну» показывает, что эта обезьяна не отстанет от вас, пока вы не смените тему. Иными словами, невозможно не думать по инструкции. А если ничто не тревожит? Представьте, вы в отпуске, в шезлонге, шум прибоя или шелест листвы… Можно ни о чем и не думать.

Ведь все в организме функционально: мышление — это не излишество в конструкции мозга, оно необходимо для конкретных задач. Если на данный момент нет таких задач — незачем тратить мысли. При этом вы бодрствуете, осознаете себя, но просто созерцаете бытие.

У каждого такое бывает. Вспомните, как вы выходите из такого состояния — как из приятного путешествия, с какой-то свежестью в настроении, с неожиданными планами. Наша с вами проблема в том, что такие состояния в обычной жизни чрезвычайно редки, нам некогда остановиться и побыть наедине с собой. А вот в восточных культурах такие состояния — просто жизненная установка.

С чего начиналось сознание

— Когда у людей на эволюционном пути появилось сознание и зачем оно было нужно? Как эти изменения выразились в физиологии мозга?

— Это очень трудный вопрос, прежде всего потому, что непонятно, что такое сознание. Немножко упрощая, можно сказать, что сознание — это осведомленность о себе. Знают ли о себе кузнечики, крокодилы и попугаи? Собаки и обезьяны? Ну да, они прекрасно освоились в своей среде, знают все, что им надо для комфортной жизни. Но включены ли они сами как персонажи в эту освоенную ими реальность? Зоопсихологи находят у некоторых животных признаки любования собой, пример тому евразийские сороки. Если закрепить на их перьях контрастные цветные наклейки, то, глядя на свое отражение в зеркале, сороки пытаются удалить метку. Значит, посредством зеркала они не только осведомлены о своем существовании, но даже о том, что на оперении какой-то непорядок. А новокаледонские вороны с помощью высоко поднятого зеркала даже обнаруживают пищу в углублениях у себя за спиной. Между тем у птиц большие полушария мозга еще не покрылись корковым слоем нервных клеток, которым так гордится человек! Как видно, даже у существ без коры самоидентификация используется для дела. Может, это и есть зачатки сознания? Что касается людей, то настоящее человеческое сознание, по-видимому, появилось только у Хомо сапиенс одновременно (или вследствие) с появлением языковой коммуникации и развитой речи, может, более 100–200 тысяч лет назад.

Полноценная идентификация себя, конечно, была революционным достижением эволюции в конструировании мозга. По сути дела, именно в связи с этим приматы из особей превратились в личности, в человека. Возникли стратегии самосовершенствования. На этой основе появилось не только сознание, но и разум, то есть способность к познанию уже не только окружающего мира, но и самого себя и своей связи с этим окружающим миром. В свое время это, может быть, даже подстегнуло эволюцию в отношении ускоренного развития мозга, так как естественный отбор стал возможен не только в отношении способности к выработке все более сложных навыков, но и в отношении способности к познанию закономерностей окружающего мира.

Не исключено, что познавательная активность современного человека стала даже избыточной по отношению к его биологическим потребностям. Но, очевидно, она необходима для самореализации в этом мире, для движения ко все большему пониманию себя и своего предназначения.

— Вы однажды сказали: мы создали информационный мир, на восприятие которого возможности мозга не были рассчитаны…

— Мозг человека достиг эволюционного совершенства 40–50 тысяч лет назад, когда человек еще жил в пещерах, но уже был разумным. Ему уже не надо было биологически подстраиваться под условия среды обитания, он ими, условиями, управлял: владел огнем и орудиями труда, эффективно добывал пищу, строил жилища и т.д. В племени уже находилось место всем: и слабым, и сильным, и умным, и глупым. Естественный отбор в этом направлении перестал работать. Поэтому мы сейчас являемся носителями мозга, «рассчитанного» на пещерные времена. Кстати, в те времена, чтобы выжить, надо было проявлять максимум смекалки и сообразительности. Потому, наверное, десятки тысяч лет мозг человека отлично справлялся с вызовами каждого нового времени.

Проблемы для мозга стали возникать, когда сама среда обитания человека стала превращаться в искусственную, все более оторванную от биологической сущности человека, когда основным продуктом его деятельности и потребления все более становятся информационные потоки. Избыточная информация неминуемо перегружает и повреждает аналитические ресурсы мозга, так как по своей природе он настроен анализировать все, что поступает через органы чувств. Нам, по сути, нужен новый эволюционный рывок, но, как мы знаем, это дело на миллионы лет. Поэтому нужно как-то побыстрее приспособиться к цифровому миру. Один из путей: разработка технологий для управляемого непосредственно от мозга человека искусственного интеллекта, который позволит ему резко сбросить информационные нагрузки.

Почему мысли не считываются

— Можно ли сказать, что ученые уже близки к чтению мыслей и сознания как такового? Какими методами это достигается?

— Как мы уже говорили, каждому движению руки или каждой мысли сопутствует активация уникальной композиции нервных клеток, которая, по сути, является кодом двигательного или мысленного действия. Поэтому прочитать мысль прямо из мозга — это значит расшифровать ее нейронный код. А где на самом деле взять коды для трансляции нервных импульсов в мысль? В каждой паре нервных клеток эти коды формировались индивидуально в ходе многочисленных тренировок на протяжении жизни. К каким нервным клеткам из 86 миллиардов в мозгу человека надо подключать сенсоры и какими драйверами декодировать нервные импульсы чтобы подслушать собственно мысли?

Дело усложняется еще и тем, что коды общения нервных клеток постоянно меняются, и не для сохранения секретности, но в силу непрерывного обогащения нервных сетей новыми сведениями и даже собственными мыслями. Кроме того, одни и те же формулировки мыслей, одна и та же композиция слов — «мама мыла раму» — могут иметь множество смыслов. Для расшифровки этих смыслов потребуется декодировать не только эти три слова, но и весь контекст, иначе мысль правильно не понять. Получается, что даже теоретически задача чтения мыслей напрямую из мозга представляется неразрешимой. Однако шансы прочитать если не мысли, то хотя бы намерения человека у психофизиологов все-таки есть.

— С помощью нейроинтерфейсов, которые вы разрабатываете в своей лаборатории, можно регистрировать сигналы мозга. А нельзя ли с помощью таких нейроинтерфейсов прочитать мысли?

— Начнем с того, что регистрировать биопотенциалы мозга прямо с кожной поверхности головы нейрофизиологи научились почти 100 лет назад. Это всем известный метод электроэнцефалографии, или ЭЭГ. Но ЭЭГ — это усредненные значения электрической активности сотен тысяч нервных клеток. Это, если хотите, как сигнал микрофона над многолюдным митингом. Тем не менее, даже если не слышно отдельных голосов, характеристики голосового шума могут подсказать состояние толпы, определить, агрессия ею правит или веселье. На этом основании метод ЭЭГ широко используется для диагностики, например, патологических состояний мозга и вообще для исследований механизмов мозга.

— А что если ЭЭГ использовать не для диагностики, а для расшифровки пусть не мыслей, а намерений человека к какому-то действию? Ведь когда мы протягиваем руку к переключателю света, у нас нет мысли: «Я хочу нажать кнопку», нас подтолкнуло к этому всего лишь неясно осознаваемое намерение...

— Намерения к движению рук и ног действительно удается определять по характерным изменениям в ЭЭГ. Их можно научиться автоматически детектировать и превращать в команды для исполнительных устройств, заранее договорившись с оператором, что, например, намерение к движению левой руки выключает свет, а правой руки — включает телевизор. Вот вам и нейрокомпьютерный интерфейс. При этом никакой магии и никакого чтения мыслей! До чтения мыслей нейроинтерфейсам так же далеко, как до расшифровки межнейронных кодов. «Подсмотреть», как на ЭЭГ будут выглядеть сигналы мозга, если речь идет не о движениях тела, а о каких-то объектах, например о фруктах, об автомобилях и т.д., оказалось практически непосильной задачей.

Наибольший «урожай» приносит метод МРТ: американские исследователи Джек Галлант и Синдзи Нисимото из Университета в Беркли еще в 2011 году показали, что по картам распределения мозгового кровотока можно распознавать не только задуманные испытуемым простые объекты, но и кадры фильма, которые он просматривает в данный момент. Аналогичным образом тот же Галлант в 2016-м построил семантическую карту мозга, согласно которой две трети мозга, как оказалось, «расписаны» под слова 12 смысловых категорий. Иначе говоря, было показано, что словам каждого определенного смысла, например «еда», «родительские отношения» и т.д., соответствует уникальная схема активации областей головного мозга. Это значит, что по картам активации областей мозга можно судить, какая именно в данный момент семантическая категория используется мыслительным процессом. Но, очевидно, саму мысль такой технологией поймать не удастся.

— Какие самые интересные достижения были сделаны у вас в лаборатории в последнее время?

— Весьма долго мы трудились над созданием нейроинтерфейса, который позволил бы человеку без голоса и движений набирать текст на экране компьютера. Речь не о чтении мыслей, а все о том же подсматривании в ЭЭГ признаков, когда человек задумывает ту или иную букву. Это, увы, никому не удалось. Но американские ученые Фарвел и Дончин более 30 лет назад нашли другой ход: они нарисовали на экране все буквы алфавита и в быстром темпе подсвечивали каждую букву в случайном порядке. Оказалось, что отклик ЭЭГ на подсветку буквы, интересующей оператора в данный момент, отличался от всех остальных. Далее дело техники: быстро определить эту уникальную реакцию и набрать на экране соответствующую ей букву. Так буква за буквой можно набрать целый текст. Опять-таки без чтения мыслей!

Но когда сделали лабораторное тестирование так называемого наборщика букв, дело решили бросить, так как надежность и скорость набора оставляли желать лучшего: было до 30 процентов ошибок и всего 4–5 букв в минуту. Мы довели эту технологию до возможного совершенства: надежность — менее 5 процентов ошибок, правда, скорость — до 10–12 букв в минуту. Но мы делали эту технологию не для здоровых людей, а для тех, кто страдает тяжелыми расстройствами речи и движений после инсульта и нейротравм. Впервые в мире эта технология дошла до реальных пользователей: 500 первых комплектов «НейроЧат» — так назван наш продукт — сейчас находятся в больницах и у реальных пользователей, которым крайне нужна коммуникация с внешним миром. Первую демонстрацию «НейроЧата» провели в реабилитационном госпитале в Лос-Анджелесе, где пациентка с помощью нашего нейроинтерфейса общалась с пациентом из реабилитационной клиники в Москве, также снабженным этим нейроинтерфейсом.

В ближайшей перспективе — перенос нейроинтерфейсных технологий в виртуальную реальность, объекты которой будут управляться мысленными усилиями. Что это будет: новое поколение компьютерных игр или тренажер умственных навыков,— покажут текущие разработки. А далее открывается путь к так называемым нейроинтерфейсам 6.0: мозг человека посредством нейроинтерфейсов нового поколения будет связан с модулями искусственного интеллекта. Тут уже трудно сделать прогноз, но, возможно, нейрофизиологам и компьютерщикам уже не придется трудиться над дешифраторами ЭЭГ: при удачном построении канала оба агента на линии «мозг — искусственный интеллект» придут к созданию своего собственного кода общения.

— Когда говорят, что мы используем возможности мозга на 10 процентов, что имеется в виду? И откуда взялась эта странная цифра?

— Если речь идет об использовании всего 10 процентов нервных клеток мозга, то это просто журналистский миф. Эволюция не оставляет в организме ничего лишнего, что может тратить его энергию без пользы. Тем более это верно для мозга, составляющего всего 2 процента веса человека, но «съедающего» в активном состоянии до 25 процентов энергии всего тела. Все 100 процентов нервных клеток эксплуатируются мозгом всегда. А вот если говорить о потенциальных интеллектуальных возможностях мозга, то здесь у всех людей получается по-разному. Чем больше человек накапливает систематизированных знаний, чем больше их эксплуатирует для получения новых интеллектуальных продуктов, тем более продуктивно используются всегда работающие 100 процентов нервных клеток его мозга.

— Как вы относитесь к движению биохакинга, когда состоятельные люди пытаются отодвинуть старение с помощью различных средств и методов?

— Биохакинг бывает разный. Если речь идет об усовершенствовании органов и систем организма вне их биологической сущности — то отрицательно, точно так же, как к апгрейду мозга. И логика тут очевидна: в общем случае внесение изменений в элемент системы неминуемо вызовет нарушения в функционировании этой системы. А если биохакинг понимать как исправление недостатков естественной биологической и психической жизни человека в связи с его неправильным питанием и поведением, в связи с генетическими ошибками, кризисами здоровья и прочими факторами, мешающими полноценному проявлению эволюционно обусловленных возможностей человека, то он должен стать делом первостепенной важности.

— А как выотноситесь к идее крионики — заморозки человека для жизни через столетия? Что при этом произойдет с мозгом и сознанием?

— Идея заморозки-разморозки мозга с надеждой на его полноценное возвращение к жизни, по крайней мере, не выдерживает критики. В отличие от компьютера мозгу неоткуда будет загрузить слетевшие «программы» его работы, накопленную за годы жизни память, выработанные навыки и приобретенные знания. Между тем в живом мозгу все это хранится не в «постоянной памяти», как в компьютере, а в непрерывно работающих гигантских сетях естественных нервных клеток. Даже временное выключение корковых нервных клеток при наркозе с полным сохранением их жизнедеятельности приводит к необратимым когнитивным повреждениям. Что тогда говорить о тотальной остановке мозга, да еще с заморозкой?



https://www.kommersant.ru/doc/4449710

завтрак аристократа

А.А.Кабаков из сборника "Группа крови" - 6

Старье не берем



Вышел из строя холодильник, проработавший пятьдесят два года.

Оказывается, столько живут.

В 1965 году моей тогда вполне еще юной жене, точнее еще не жене, записанной, как положено советскому человеку, в очередь на покупку холодильника, сообщили, что в ближайшее время поступления отечественных аппаратов не ожидается, но можно купить финский. Тем, кто записан на дешевую «Оку», предлагается небольшой UPO, а жаждавшим ЗИЛа – дорогой Rosenloew. На финские желающих почти нет, потому что они подороже, а запасные части для них наверняка будет не достать.

Отважная жена купила UPO, и он проработал, как сказано, с лишним полвека. За это время в доме перебывали его напарники – и один из последних советских «Мир», безнадежно вышедший из строя на втором году, и купленный в первое последефицитное время шикарный по тем меркам Siemens, уже ремонтировавшийся раза три, и, совсем недавно, роскошный гигантский Bosh, первый раз сломавшийся на следующий день после истечения гарантийных месяцев… А поселившийся на дачной веранде и назначенный хранить еду для кошек и собак финский трудяга средних человеческих лет все работал и работал, и никакие запасные части для него так и не понадобились. Он умер тихо однажды ночью, и мы, снисходя к возрасту, решили не терзать его реанимацией.

За последние примерно тридцать лет мир вокруг нас решительно изменился – он наполнился совершенно новыми предметами в сущности одноразового пользования. Срок их службы, как правило, определяется сроком гарантии, после истечения которого они начинают бесповоротно рассыпаться. Между тем, это все продукция вполне почтенных мировых фирм, правда собранная в основном в Китае и Малайзии, но под громкими именами. Логично предположить, что ее недолговечность продумана и запрограммирована, что она есть важная часть нынешней стратегии, общей для всей индустрии потребительских товаров. И никакого открытия в этом нет: общеизвестно, что ремонт мобильного телефона стоит практически столько же, сколько новый прибор, японские и корейские автомобили безукоризненно ездят все гарантийное время, потом же мгновенно стареют, как клонированные животные. Моя первая Motorola в металлическом корпусе, представлявшая собой мобильный телефон и только, многократно падая на кафельный пол, исправно прослужила пять лет. А предпоследний iPhone, в котором собственно телефонные функции просто терялись среди интернетных, фотографических и игровых, выдержал год и отказал категорически. Моя телевизионная «тарелка» нормально действовала месяцев десять, потом в ней заменили электронику – ремонту практически не подлежала – и новая сломалась тут же…

У всего описанного есть вполне логичное объяснение: в условиях необходимого (во всяком случае, признанного необходимым в современном обществе) ускорения технического прогресса сроки морального и физического устаревания техники должны совпадать. Однако это не снимает вопроса, касающегося нас лично: какой же становится жизнь людей в таком одноразовом окружении? Ведь не могут не влиять на человеческую психологию повседневно и ежечасно используемые предметы…

Первым и, мне кажется, самым непосредственным следствием стал культ молодости, распространившийся за последние десятилетия с Запада на весь «цивилизованный» и быстро цивилизующийся по западному образцу мир. В новом вещном окружении комфортнее себя чувствуют – да и естественнее выглядят – люди молодые, не нажившие еще привычек и опыта, заставляющего критически воспринимать любые, в особенности новые, явления действительности. Мир не то чтобы молодеет – наоборот, развитые страны, особенно Европы, стремительно становятся «домами престарелых». Но универсальной модой сделалась «моложавость», легковерность и легкомыслие не по возрасту. Старость утрачивает свое главное, если не единственное, назначение – создавать баланс прогрессистским, безоглядным общественным устремлениям. Социальный корабль, лишенный такого балласта, становится неустойчивым, любое интеллектуальное волнение его опасно раскачивает.

Второе – западный мир в целом, я думаю, оказывается бессильным перед третьим миром. Юго-Восток не только беднее Северо-Запада, он еще и моложе его в производственной сфере. Там использование технологических новинок не сдерживается традициями почтительного отношения к продуктам человеческого труда, там hi-tech быстро осваивается, но он привнесенный, не местного происхождения. И если сегодня повсеместно славятся программисты индийской школы, мгновенно выросшей на пустом месте, то что помешает появлению индонезийских, например, хакеров, да еще и зараженных исламским радикализмом, способных с помощью ноутбука и мобильника мгновенно парализовать всю мировую банковскую систему или работу авиационных диспетчеров?

Третье – мы становимся все более зависимыми от управляющих работой бытовой техники структур. Свобода информации и передвижений, которую дают сотовые телефоны, интернет, спутниковое телевидение, электронное банковское обслуживание, современные, набитые электроникой автомобили, разветвленная сеть авиационных сообщений, представляется мне не более чем иллюзией. Трансляционные станции, управление сигналом, обязательная быстрая замена морально устаревших элементов, влияние рядовых служащих, занимающих ключевые места в системе, требующий высочайшей квалификации и сложнейшего оборудования ремонт наконец! Как известно, «Волга» ремонтировалась самодеятельно с помощью кувалды и трехсловного выражения, а обслуживание модной «трешки» Mazda требует компьютеров и специалистов с высшим образованием. Зато комфорт – в общем-то, даже чрезмерный… Все это превращает нас из автономно действующих взрослых индивидуумов в неусыпно опекаемых детей, бегающих в рамках той свободы, которую дают удерживаемые «родителями» технологические помочи. Большинство этого не осознаёт, но все подсознательно ощущают. Нас можно остановить в любой момент…

Резонно возникает сакраментальный вопрос: «что делать», чтобы если не преодолеть болезненную зависимость от вездесущих и непрестанно меняющихся продуктов неудержимо обновляющейся технологии, то хотя бы противостоять их влиянию?

Увы, по-моему, эффективного ответа на этот вызов не существует. Единственное, что в наших силах, – осознать наступление неизбежного, если мы не можем, да и не хотим ему противиться. Не всегда человек, ясно видящий проблему, способен ее решить, но он имеет больше возможностей подготовиться к последствиям. В конце концов, присмотритесь к своему мобильнику – обязательно ли его уже менять или по нему вполне еще можно говорить? Потребление ждет от вас рабского послушания – обманите его ожидания…

Вот ведь на какие мысли наводит сломавшийся старый холодильник.




http://flibustahezeous3.onion/b/518342/read#t21