Может ли компания по производству видеоигр укротить токсичное поведение?

  1. СЛУШАТЬ
  2. Большой бизнес
  3. Открытые данные
  4. Виртуальное насилие

На то, чтобы на моём экране появилось гомофобное пятно, потребовалось меньше минуты, чтобы сыграть в League of Legends . На самом деле, я даже не начал играть. Это была моя первая попытка присоединиться к тому, что многие согласны стать ведущей онлайн-игрой в мире, и я не спешил выбирать персонажа. Сообщения начали вливаться.

«Выберите один, детка», - подтолкнул один.

Затем «Выберите FA GO TT».

СЛУШАТЬ

Ноа Бейкер посещает бар видеоигр, чтобы узнать о токсическом поведении в Интернете - и как его остановить

Вам может потребоваться более свежий браузер или установить последнюю версию плагина Adobe Flash.

Это было необычное написание, и пробелы, возможно, были добавлены, чтобы упростить слово за фильтром пошлости игры по умолчанию, но сообщение было ясным.

Онлайн-геймеры имеют репутацию враждебных. В обстановке, в значительной степени свободной от последствий, в которой живут в основном анонимные и конкурентоспособные молодые люди, шалости могут быть совершенно противными. Игроки притесняют друг друга за плохую работу и могут обманывать, саботировать игры и делать любые вещи, чтобы преднамеренно испортить опыт для других - это практика, которую геймеры называют грустью.

Расистский, сексистский и гомофобный язык широко распространен; агрессоры часто угрожают насилием или призывают игрока совершить самоубийство; и время от времени, купорос выходит за пределы игры. В пресловутом споре «gamergate», вспыхнувшем в конце 2014 года, несколько женщин, вовлеченных в игровую индустрию, были подвергнуты кампании преследования, включая вторжения в частную жизнь и угрозы смерти и изнасилования.

В League of Legends участвуют 67 миллионов игроков, а выручка в прошлом году составила 1,25 миллиарда долларов США. Но у него также есть репутация ядовитого игрового поведения, которое его материнская компания Riot Games в Лос-Анджелесе, штат Калифорния, считает препятствием для привлечения и удержания игроков. Поэтому компания наняла группу исследователей для изучения социальных и антиобщественных взаимодействий между ее пользователями. С таким количеством игроков ученые смогли собрать огромное количество поведенческих данных и проводить эксперименты в масштабе, который редко достигается в академических условиях.

В то время как другие игровые компании имеют аналогичные исследовательские команды, Riot's замечательно открыты для своей работы - с игроками, с другими компаниями и с растущей коллекцией научных сотрудников, которые рассматривают многопользовательские игры как чашку Петри для изучения поведения человека. «Что самое интересное в Riot, так это не то, что они делают это, а то, что они обнародуют это и имеют установленный способ поделиться этим с учеными», - говорит Ник Йи, социолог и соучредитель Quantic Foundry, видео консалтинговая фирма игровой индустрии в Саннивейл, Калифорния.

Выводы Riot помогли выявить, откуда происходит токсичное поведение и как заставить игроков быть добрее друг к другу. И некоторые говорят, что работа может перевести на цифровые места вне игры. «Работа, которую они выполняют, позволяет размышлять над большими вопросами, - говорит Джастин Райх, исследователь образования в Массачусетском технологическом институте в Кембридже, - не только как мы делаем онлайн-игры более интересными, но и как мы делаем Интернет более гражданское место?

Большой бизнес

Джеффри Лин, ведущий разработчик социальных систем в Riot, является публичным лицом своей исследовательской программы. Он играет в видеоигры онлайн с 11 лет, и ему было давно интересно, почему так много его товарищей-геймеров мирится с токсичным поведением. «Все, с кем вы разговариваете, думают об Интернете как о месте, наполненном ненавистью», - говорит он. «Почему мы думаем, что это нормальная часть игрового процесса?»

В 2012 году Лин заканчивал докторскую диссертацию по когнитивной нейробиологии в Вашингтонском университете в Сиэтле и работал в игровой компании Valve в соседнем Белвью, когда друг и коллега-геймер представил его соучредителям Riot, Марку Мерриллу и Брэндону Беку. , Они признали, что ядовитое поведение было серьезным препятствием для опыта игроков, и они хотели решить проблему с наукой. Таким образом, они наняли Линя в качестве игрового дизайнера, по сути, предоставив ему ключи к огромной силе в мире онлайн-игр.

League of Legends , единственная игра Riot, была выпущена в 2009 году и в настоящее время привлекает 27 миллионов игроков каждый день. Это, безусловно, самый популярный из растущего сегмента игр, называемого киберспортом, мир, в котором элитные игроки формируют профессиональные команды, выигрывают университетские стипендии и принимают участие в турнирах на миллион долларов на спортивных аренах. Финал чемпионата мира League of Legends 2015 года в Берлине собрал 36 миллионов зрителей онлайн и на телевидении, соперничая с аудиторией финалов некоторых традиционных видов спорта.

Финал чемпионата мира League of Legends 2015 года в Берлине собрал 36 миллионов зрителей онлайн и на телевидении, соперничая с аудиторией финалов некоторых традиционных видов спорта

Марв Уотсон

Команда из Южной Кореи выиграла чемпионат мира 2013 года в Лос-Анджелесе.

Игра может быть пугающей для новичков. Игроки контролируют одного из более чем 120 персонажей, называемых чемпионами, каждый из которых обладает определенными способностями, слабостями и ролями. Команды, как правило, состоят из пяти игроков, которые должны сотрудничать, чтобы убивать монстров и противников, собирать золото для покупки магических предметов, захватывать территорию и в конечном итоге уничтожать базу другой команды.

Матчи длятся в среднем около получаса, поэтому плохой игрок в команде может усугубить ситуацию. И игра требует координации между игроками, для чего она обеспечивает функцию внутриигрового чата. Если кто-то делает ошибку, он или она, как правило, быстро узнают об этом. Игроки могут сообщать своим товарищам по команде о токсичности, что может привести к временному или постоянному бану в игре. Но выяснить, как отличить несколько разочарованных ворчаний или добродушных разговоров о чепухе от вида купороса, достойного наказания, - трудная задача.

Чтобы справиться с этим, Лин должен был убедиться, что у него есть хорошее представление о том, откуда такая токсичность. Таким образом, он получил команду для просмотра журналов чатов из тысяч игр каждый день и для кодирования заявлений игроков как положительных, нейтральных или отрицательных.

Получающаяся карта токсического поведения была удивительной. Общепринятое мнение гласит, что основная часть жестокости в Интернете исходит от обломков его жителей - троллей. Действительно, команда Линя обнаружила, что только около 1% игроков были постоянно токсичными. Но оказалось, что эти тролли производят только около 5% токсичности в League of Legends . «Подавляющее большинство было от обычного человека, у которого просто плохой день», - говорит Лин. Они вели себя по большей части хорошо, но в редких случаях наносили удары.

Это означало, что даже если Riot забанит всех самых ядовитых игроков, это не окажет большого влияния. Чтобы уменьшить плохое поведение, которое испытывает большинство игроков, компании придется изменить поведение игроков.

Лин заимствовал концепцию из классической психологии. В конце 2012 года он инициировал массивный тест подготовки, идея, что изображения или сообщения, представленные непосредственно перед действием, могут подтолкнуть поведение в том или ином направлении.

Команда Riot разработала 24 внутриигровых сообщения или подсказки, в том числе те, которые поощряют хорошее поведение - например, «Игроки выступают лучше, если вы дадите им конструктивную обратную связь после ошибки» - и некоторые, которые препятствуют плохому поведению: «Товарищи по команде ведут себя хуже, если вы беспокоите их после ошибки ». Они представили советы в трех цветах и ​​в разное время во время игры. В общей сложности было проведено 216 условий для проверки на контроле, в которых не давалось никаких советов. Это нелепое количество тестов для тестирования на людях в лаборатории, но тривиально для компании, способной проводить миллионы экспериментов каждый день.

Некоторые из советов оказали явное влияние (см. 'Гражданское строительство' ). Предупреждение о притеснениях, приводящих к плохой работе, снизило негативное отношение на 8,3%, словесные оскорбления на 6,2% и оскорбительные выражения на 11% по сравнению с контрольной группой. Но наконечник оказал сильное влияние только тогда, когда он представлен красным цветом, который обычно ассоциируется с предотвращением ошибок в западных культурах. Положительное сообщение о сотрудничестве игроков сократило оскорбительные высказывания на 6,2% и имело меньшие преимущества в других категориях. Бунт выпустил только несколько из этих анализов, поэтому трудно сделать общие обобщения.

С научной точки зрения, говорит Лин, результаты экспериментов с грунтовкой были «эпичными», и они открыли двери для многих других исследовательских вопросов, таких как то, как различные подсказки и цвета могут влиять на игроков из разных культур. Но улучшения поведения были слишком скромными и мимолетными, чтобы изменить культуру игры. Лин рассуждал, что если он хочет сделать сообщество более цивилизованным, то игрокам придется внести свой вклад в разработку норм. Так Riot представил трибунал, который дает игрокам возможность выступать в качестве судей и присяжных для своих коллег. В нем добровольцы просматривают журналы чата игрока, о котором сообщалось о плохом поведении, а затем голосуют за то, заслуживает ли преступник наказания.

Трибунал, который начал свою работу в 2011 году, дал игрокам больше контроля над установлением норм сообщества, говорит Лин. И это выявило некоторые вещи, которые вызвали большинство упреков: гомофобные и расовые оскорбления. Но игроки, которым запретили игру, часто не знали, почему их наказали, и продолжали действовать негативно, когда запреты были сняты. Поэтому команда Лин разработала «карты реформ», чтобы дать обратную связь забаненным игрокам, а затем компания следила за их игрой. Когда игроки были проинформированы только о том, какое поведение доставило им неприятности, 50% не стали вести себя неправильно, что потребовало бы еще одного наказания в течение следующих трех месяцев. Когда им были отправлены карточки с реформами, в которых содержались решения Трибунала и в которых подробно описывались чаты и действия, приведшие к запрету, уровень реформ поднялся до 70%.

Но процесс был медленным; Карты реформирования могут появляться не раньше, чем через две недели или месяц после совершения преступления. «Если вы посмотрите на любую классическую литературу по обучению с подкреплением, то время обратной связи очень важно», - говорит Лин. Поэтому он и его команда использовали обширные данные, которые они собирали, чтобы обучить компьютер выполнять работу намного быстрее. «Мы отказались от машинного обучения», - говорит Лин. Автоматизированная система может обеспечить почти мгновенную обратную связь; и когда сообщения о злоупотреблениях поступали в течение 5–10 минут после совершения правонарушения, уровень реформ поднялся до 92%. По словам Линя, с тех пор, как эта система была включена, словесная токсичность среди так называемых ранжированных игр, которые являются наиболее конкурентоспособными и самыми яростными, снизилась на 40%. По его словам, во всем мире количество случаев разжигания ненависти, сексизма, расизма, угроз смерти и других видов жестокого обращения составляет до 2% от всех игр.

«Если цифры, которые они там приводят, правильные и правдивые, похоже, они работают хорошо», - говорит Джейми Мэдиган, автор из Сент-Луиса, штат Миссури, который пишет о психологии геймеров. И это потому, что выговоры являются конкретными, своевременными и простыми для понимания и выполнения, говорит он. «Это классическая психология 101».

Открытые данные

Исследовательская команда Riot постоянно экспериментирует с другими способами улучшения взаимодействия в игре. Спортивное поведение может приносить игрокам очки чести и другие награды. Помогли и чаты с функциями чата. И команда планирует использовать Трибунал для обучения алгоритмов игры для обнаружения сарказма и пассивно-агрессивного языка в чатах - главная проблема для машинного обучения.

С самого начала Riot также сделал доступными большую часть своих данных для других. Джереми Блэкберн, заядлый геймер и ученый, работающий в Telefonica Research and Development в Барселоне, Испания, добыл данные по 1,46 миллионам дел Трибунала, чтобы разработать свой собственный подход к машинному обучению для прогнозирования того, когда поведение игрока будет считаться токсичным. Вместе с Haewoon Kwak из Катарского научно-исследовательского вычислительного института в Дохе он обнаружил, что наиболее важным фактором, помимо конкретных слов, используемых в сообщениях о токсичности, является то, насколько хорошо выступила команда противника. 1 , Блэкберн, который интересуется изучением киберзапугивания, надеется больше посмотреть на то, как разные культуры оценивают поведение. По его словам, некоторые данные свидетельствуют о том, что корейские геймеры, как правило, объединяются и ругают самых бедных игроков. Данные лиги могут подтвердить это. «Мы увидели, что у этой категории словесных оскорблений было намного больше прощения».

Робин Бек / AFP / Getty

League of Legends требует от товарищей по команде общения и сотрудничества.

Рейчел Кауэрт из Остина, штат Техас, является научным психологом в Правлении Ассоциации по исследованию цифровых игр. Она впечатлена работой и особенно беспрепятственным доступом Блэкберна и Квака. «Это потрясающе для исследователей. Вы не можете установить цену на реальные данные », - говорит она.

Другие компании также имеют данные, которые ученые хотели бы. Blizzard Entertainment в Ирвине, штат Калифорния, делает популярную онлайн-фэнтезийную игру World of Warcraft , которую многие считают сокровищницей данных о сложных социальных взаимодействиях. Но немногие люди за пределами компании смогли работать с данными, и большинство из тех, кто это делает, подчиняются жестким соглашениям о неразглашении. (Blizzard не ответила на запросы Nature о комментариях.)

В отличие от этого, Riot рассказывает о своих данных на игровых конференциях, и когда он сотрудничает с исследователями, существует мало ограничений на публикацию. У него также есть программа аутрич, посещение университетов для налаживания сотрудничества. А в мае прошлого года Линь представила данные на ежегодном собрании Ассоциации психологических наук в Нью-Йорке, чтобы вызвать больше интереса.

Несмотря на все эти усилия, исследования компании еще не получили широкого признания среди исследователей поведения. «Надеюсь, они приедут на другие конференции, где люди изучают поведение», - говорит Бетси Леви Палак, социальный психолог из Принстонского университета в Нью-Джерси. Хотя она не была знакома с Riot, она говорит, что компания, похоже, разрабатывает мощные исследования в области психологии с большими данными, что является серьезной проблемой.

Дафна Бавелье, учёный-невролог из Женевского университета в Швейцарии, встретилась с Линем на конференции в Нью-Йорке. Ее исследование показало - к радости многих геймеров и мучений их родителей - что некоторые игры, особенно быстро развивающиеся шутеры от первого лица, могут улучшить несколько когнитивных способностей, таких как визуальное внимание, как внутри, так и вне игр. 2 , Она планирует сотрудничать с Riot, чтобы изучить, как игроки справляются с крутой кривой обучения в League of Legends .

Командный характер игры также может быть полезен ученым. Янг Джи Ким, социолог из Центра коллективного интеллекта Массачусетского технологического института, смог нанять 279 опытных команд из Лиги Легенд для проведения опросов и совместной работы над набором онлайн-тестов, которые были разработаны для изучения динамики команды и факторы, которые делают команды успешными. (Предоставив внутриигровой стимул на сумму около $ 15, Riot помогла своей команде получить тысячи регистраций за пару часов, - говорит она.) Предварительные результаты показали, что ранг команд в игре коррелирует с их коллективным интеллектом. - мера, которая обычно отслеживается с такими вещами, как социальная восприимчивость и равный ход разговора.

Энтузиазм, проявленный игроками к участию в подобных экспериментах, может быть связан с Линем, который часто пишет об исследованиях Riot и часто встречается, отвечая на вопросы игроков в Twitter и других социальных сетях. По словам Бавелье, важно быть честным и открытым в отношении усилий. Хотя большинство цифровых компаний проводят эксперименты с пользователями, они зачастую менее прозрачны. Facebook, например, опубликовал исследование о том, как закулисная работа с новостными лентами может манипулировать эмоциями пользователей. 3 и получил значительную обратную реакцию от пользователей. «Нам нужно учиться на ошибках других, чтобы пользователи знали о том, что мы делаем», - говорит Бавелье.

У Riot есть внутренняя институциональная контрольная комиссия, которая оценивает этику всех своих экспериментов. Хотя это не бесконфликтное соглашение, оно, по крайней мере, предполагает, что исследование пересматривается с учетом защиты участников. Академические сотрудники также должны получить одобрение своих местных советов.

Виртуальное насилие

У Линя высокие цели в исследованиях и вмешательствах его команд. «Можем ли мы улучшить онлайн-общество в целом? Можем ли мы узнать, как преподавать этикет? »- спрашивает он. «Мы не образовательная компания. Сначала мы - игровая компания, но мы знаем, как ее можно использовать для обучения ».

Родители, законодатели и некоторые ученые десятилетиями беспокоились о том, что видеоигры, особенно жестокие, деформируют умы детей. Но Джеймс Айвори, специалист по коммуникациям Политехнического института и государственного университета Вирджинии в Блэксбурге, говорит, что большая часть внимания к насилию упущена из-за наибольшего влияния игр. «Исследователи постепенно начинают осознавать, что, возможно, не так важно думать о том, что значит для кого-то притворяться солдатом, чем о том, проводят ли они свое время, выплевывая расовые или гомофобные оскорбления».

К 21 году средний молодой геймер будет иметь тысячи часов игрового времени. Уже один этот факт делает дихотомии, такие как «реальный мир» и «цифровой мир», ложными - для многих игра - это реальный мир. И, говорит Айвори, «самое сильное влияние, которое эти игры оказывают на людей, заключается в том, как они взаимодействуют с другими людьми».

Некоторые исследователи проявляют осторожность при попытке применить уроки из игры к другим настройкам. Дмитрий Уильямс, социолог и основатель аналитической компании Ninja Metrics, расположенной в Манхэттен-Бич, штат Калифорния, предупреждает, что игры имеют очень специфические структуры стимулов, которые могут ограничивать то, насколько хорошо эти события отображаются в более широком мире. «Люди ведут себя хорошо в реальной жизни, потому что, если они кого-то обижают или портят, им приходится иметь дело с последствиями». Таким образом, манипуляции, которые работают, чтобы обуздать плохое поведение в Лиге, могут быть бессмысленными в других местах.

И все еще существуют значительные проблемы для Riot. Игроки продолжают жаловаться на токсическое поведение или то, что они считают необоснованными наказаниями. И блог под названием «Лига сексизма» утверждает, что внушительное изображение женских персонажей в игре способствует сильному течению сексизма в сообществе игроков. «Игрокам сложно определить сексистское поведение, когда сексизм встроен в образ игры», - говорит представитель блога, пожелавший остаться анонимным. Несмотря на то, что усилия Линя «достойны восхищения и, вероятно, являются ведущими в отрасли», говорит представитель, многие игры по-прежнему «наводнены словесными преследованиями, горя и общего негативного поведения со стороны товарищей по команде и противников». Лин говорит, что художники Riot знают об этих проблемах и что они предпринимают усилия, чтобы изобразить женских персонажей более сильным и мощным способом.

Хотя Riot может похвастаться тем, что серьезное токсическое поведение поражает только 2% игр, я каким-то образом смог испытать его в течение минуты игры в первый раз. Но сразу после того, как на моем экране появилось «FA GO TT», произошло нечто интересное. Другой игрок сказал: «Успокойся». Возможно, это был знак того, что усилия Лин по созданию более гражданского, самоконтролируемого цифрового пространства начинают работать. Или, может быть, это был просто дружный товарищ по команде, напоминающий нам всем, что это просто игра.

«Почему мы думаем, что это нормальная часть игрового процесса?
«Можем ли мы улучшить онлайн-общество в целом?
Можем ли мы узнать, как преподавать этикет?