Виртуалистика 
Аретея 
Сообщество 
Виртуальная жизнь 
Виртуалистика в жизни 
   Редактирование сознания 
      ТРЗ: мероприятия 
      Кодекс этики ВР 
   Виртуальный конфликт 
      Resume 
      Информация о проекте 
      Результаты 
      Библиография 
   Виртуалистика в искусстве 
      Коллектив 
   Педагогическая виртуалистика 
   Виртуальная медицина 
   Виртуальная Родина 
      Виртуальная этнография 
         Ульяновский р-н Калужской обл. 
            Заповедник Калужские засеки 
   Человеческий потенциал ВС РФ 
      Resume 
      Информация о проекте 
      Результаты 
      Основные итоги 
      Библиография 
   Вирт.филос.искусственного интеллекта 
подписаться
отписаться


 Виртуалистика в жизни > Редактирование сознания > Кодекс этики ВР
Регулирование применения/использования Технологий виртуальной и др. реальностей (TVR)

Технологии виртуальной (virtual reality - VR), дополненной (augmented reality  - AR) и заместительной (substitutional reality - SR) реальностей (далее TVR) относятся к технологиям «редактирования сознания»; к большому классу технологий редактирования/улучшения человека (human enhancements), которые  в массовом сознании сегодня пока ассоциируются преимущественно с геномными исследованиями.
«Редактирование сознания» следует понимать не как метафору, но как механизм работы TVR, технологически, то есть изначально(!), направленный на обман сознания - на достижения феномена неразличения человеком искусственной (порождённой технологиями) и его жизненной реальностей, что в конечном итоге может быть направлено управление его сознанием и волей, на манипуляцию человеком.
Отметим, что уже сегодня TVR и их приложения способны обеспечить неразличение человеком своих мыслей и чужих мыслей, совей воли и чужой воли, своего тела и чужого тела, своей личности и чужой личности, своего внутреннего человека и человека внешнего - навязанного. Все остальные технологии «оцифровки человека» - лишь следствия успешности либо неуспешности решения данной сверхзадачи.
Под термином «виртуальный» в современной науке и философии мейнстрима понимается всё, что происходит в интернете, киберпространстве и пр.; в результате слово «виртуальный» сегодня ничего не означает и ничего не объясняет (А.Е.Войскунский, 2016).
Подобные вещи происходят потому, что природная виртуальность человека находится в коллективном когнитивном неосознаваемом (термин М.А.Пронина; не путать с коллективным когнитивным бессознательным А.В.Смирнова) философии и науки мейнстрима как у нас в России, так и за рубежом. Иными совами, TVR не работали бы, если бы «не работала» природная виртуальность человека!
Это глобальная парадигмальная проблема - без её восприятия, исследования и разработки решений адекватная опережающая трансформация/развитие институционального регулирования в области цифровых технологий затруднительна, если невозможна.

* * *
Кодекс этического поведения.
Рекомендации для добросовестных научных исследований
(good scientific practice) и потребителей ВР-технологий



М.Мадари и Т.Метцингер (M.Madary and T.Metzinger)                                         Реальная виртуальность: Кодекс этического поведения.[1]

Табл. VERE[2]-кодекс поведения для этичного использования ВР[3] в исследованиях и широкой общественностью (general public).


Этические рекомендации для исследований ВР

 

1. Не навреди

a. Эксперименты с использованием виртуальной реальности (ВР) не должны проводиться, если можно прогнозировать, что при этом субъекту (subject) будут причинены недобровольные (involuntary) страдания или значительный, или долговременный (lasting) ущерб.

b. Рациональная, научно обоснованная идентификация и минимизация рисков (в том числе и тех, которые могут относиться к отдалённому будущему) должна быть частью самого исследования.

 

2. Информированное согласие

a. Информированное согласие для экспериментов с ВР должно содержать открытое (an explicit) заявление о том, что ВР с эффектом погружения (immersive) может оказывать долговременное воздействие на поведение субъектов (subjects) экспериментов и риски их могут быть в настоящее время неизвестны.

b. Экспериментальные исследования ВР не должны проводиться на субъектах (subjects), неспособных (incapable) к информированному согласию.

 

3. Прозрачность (transparency) и медиа этика

a. В ходе экспериментов по разработке новых клинических приложений исследователям следует проявлять осторожность и не создавать у пациентов ложных надежд (false hopes), неоднократно напоминая им о сугубо экспериментальном характере исследования.

b. Исследователи ВР, разрабатывающие новые клинических приложения, должны работать в тесном сотрудничестве с врачами, которые в большей степени подходят для того, чтобы выносить обоснованные заключения о допуске конкретных пациентов к новым испытаниям.

c. Учёные и средства массовой информации должны ясно и честно информировать общественность о научном прогрессе, причем не только в сфере использования ВР для оказания медицинской помощи.

d. В общении со средствами массовой информации ученым следует культивировать в себе проактивный подход, особенно когда им первым в процессе собственной работы становится известно о новых типах рисков. Обращение к общественности, в необходимых случаях, должно быть инициировано самими учёными, чтобы взять происходящее под контроль и действовать на опережение будущей ситуации, а не просто реагировать на неё.

4. Двойное назначение

a. Возможное использование ВР, ДР и ЗР в военных целях должно находиться под тщательным контролем директивных органов (policy makers) и финансирующих организаций.

b. Пытки в виртуальной среде остаются пытками. Тот факт, что чье-либо страдание происходит при погружении в виртуальную среду, не смягчает страдания как такового.

c. Директивные органы (policy makers) должны направить усилия на заключение международных договоренностей между странами для внесения ВР, ДР и ЗР в процесс согласования (harmonize) перечней контролируемых технологий двойного назначения.

 

5. Интернет-исследования

a. Научное сообщество должно сделать шаги, направленные на избежание злоупотреблений информированным согласием с данной технологией, особенно в интересах сохранения общественного доверия.

b. Возможность переключаться между ВР, ДР и ЗР может создавать ситуации в которых пользователи не способны сохранять понимание того, когда их информированное согласие делиться информацией действует. Пользователям в ВР необходимо постоянно напоминать о том, что они дали информированное согласие.

6. Ограничения для Кодекса поведения

a. Ученые обязаны (must) понимать, что следовать этическому кодексу - это не то же самое, что быть (курсив в первоисточнике – Прим. моё – М.П.) этичным. Этический кодекс конкретной предметной области, как бы он ни был последовательным, развитым и до мельчайших подробностей проработанным в его будущих версиях, не может функционировать в качестве замены этическому мышлению (ethical reasoning) как таковому.

b. Подобное мышление должно (must) быть чувствительно к контексту и деталям реализации особенностей конкретных экспериментальных парадигм, к деталям, которые невозможно ухватить общим кодексом поведения.

 

Рекомендации по использованию ВР широкой общественностью

 

1. Долговременное погружение (long-term immersion)

a. Необходимы продольные исследования (longitudinal studies) с изучением будущих психологических последствий долговременного погружения.

b. Пользователи должны осознавать, что подобные исследования серьёзно сужены этическими ограничениями; в них не будут участвовать наиболее уязвимые категории пользователей (такие как дети или лица со скрытыми психическими заболеваниями). Некоторые из таких уязвимостей могут быть неизвестны науке и неизвестны самим пользователям.

2. Нарастает виртуализации социальных взаимодействий – мы призываем к целенаправленному изучению (focused research), к большим продольным исследованиям (large longitudinal studies) следующих вопросов:

a. Что именно, если вообще, теряется при социальных взаимодействиях, опосредованных (mediated) передовыми формами телеприсутствия в ВР?

b. Если подобные потери не были замечены, то какие негативные эффекты для самообраза человека (the human self-model) можно ожидать?

 

3. Контент повышенного риска

a. По сравнению с просмотром традиционных фильмов, содержащих сцены насилия или порнографию, по мере развития технологии ВР воздействие режима полного погружения (full immersion settings) и связанный с ним риск получения пользователями психологической травмы будет неуклонно нарастать. Пользователи должны быть осведомлены о такой возможности.

b. Технология ВР содержит в себе потенциал для создания устойчивых (robust) социальных галлюцинаций, для прямого манипулирования чувством агента, для модулирования черт личности (personality traits) посредством идентификации с виртуальными персонажами, или для причинного взаимодействия (to causally interact) с более глубокими уровнями самосознания (UI-manipulation[4]; манипуляция единицами идентификации пользователя - “unit of identification”). Пользователи должны быть осведомлены о такой возможности.

c. Право собственности на аватар станет важным вопросом для агентств-регуляторов. Имеются веские причины для введения ограничений на допустимый порядок использования аватаров, включая защиту интересов и частной жизни лиц, которые в высокой степени отождествляют себя с собственным аватаром в социальных сетях. С другой стороны, такие ограничения могут оказаться практически неосуществимыми и неоправданно ограничивать личную свободу творчества. Регуляторы обязаны (must) установить (strike) разумный баланс между данными опасностями.

4. Частная жизнь (Privacy)

a. Пользователи должны быть осведомлены о том, что есть доказательства того, что тактики рекламы, использующей технологию воплощения, такую как ВР, можут оказывать мощное неосознаваемое воздействие на поведение. Например, сочетание стратегий “Big Nudging” (сбор больших объемов данных в целях манипуляции (nudging) широкой общественностью) с технологией ВР может иметь долговременные последствия (long-lasting effects), которые могут поражать (affect) глубинные психические механизмы.

b. Защита данных: пользователи должны быть осведомлены о новых рисках слежки за ними (involving surveillance), таких как считывание их двигательных намерений (motor intentions) или «кинематических отпечатков пальцев» (kinematic fingerprint) в процессе использования ими аватара.

 

На переднем крае робототехники и ИИ (Frontiers in Robotics and AI) | www.frontiersin.org      19              Февраль 2016 | Том 3 | Статья 3

 

Перевод М.А. Пронина: http://iph.ras.ru/pronin.htm

www.virtualistika.ru, www.виртулистика.ру

 

Признательность: Р.А. Искандаряну за предоставленные материалы и компании Emporium Linguae за поддержку в переводе.

 



[1] Реальная виртуальность: Кодекс этического поведения. Рекомендации для добросовестных научных исследований (good scientific practice) и потребителей ВР-технологий. Citation: Madary M and Metzinger TK (2016) Real Virtuality: A Code of Ethical Conduct. Recommendations for Good Scientific c Practice and the Consumers of VR-Technology. Front. Robot. AI 3:3. doi: 10.3389/frobt.2016.00003

[3] VR - virtual reality – виртуальная реальность (ВР); AR - augmented reality – дополненная реальность (ДР); SR - substitutional reality – замещающая реальность (ЗР).

[4] UI - the phenomenal “unit of identification”; единицы (само)идентификации человека. Специфический термин из области исследований сознания. Не следует путать с “UI - user interface” – с интерфейсом пользователя. UI - это специфическое наполнение «индивидуальности» человека в соответствующих экспериментах с использованием ВР (Metzinger, T. The myth of cognitive agency: subpersonal thinking as a cyclically recurring loss of mental autonomy. Front. Psychol. 4:931. doi:10.3389/ fpsyg.2013.00931; Metzinger, T. Why are dreams interesting for philosophers? The example of minimal phenomenal selfhood, plus an agenda for future research. Front. Psychol. 4:746. doi:10.3389/fpsyg.2013.00746).


# # #



119992, Москва, Россия, Волхонка 14/1 строение 5, Центр Виртуалистики Института человека РАН



Разработано yans.ru