Социальная дилемма (2020 год). Цитаты и фразы из фильма

Social Dilemma (2020)

«Социальная дилемма» — документальный фильм с элементами игрового кино, вышедший на стриминговой платформе Netflix в 2020 году

Все фразы и цитаты

«НИЧТО ВЕЛИКОЕ В ЖИЗНИ СМЕРТНЫХ
НЕ ПОЯВЛЯЕТСЯ БЕЗ ПРОКЛЯТЬЯ».
СОФОКЛ
Начнем? Ага, присаживайся,
устраивайся поудобнее.
- Нормально? Хорошо.
- Да.
Дубль первый, поехали.
Представишься?
Привет, мир. Бэйли. Дубль три.
- Ты в порядке?
- Вот это - самое неприятное.
Не нравится мне это.
Я работал в Facebook
в 2011 и 2012 годах.
Я была одним из первых сотрудников
в Instagram.
Я работал в Google, YouTube.
Apple, Google, Twitter, Palm.
Я помогал запускать Mozilla Labs,
а потом перешел в Firefox.
Снимаем? Все...
Отлично.
Я работал в Twitter.
Последняя позиция -
старший вице-президент по разработкам.
Я был президентом Pinterest.
До этого я пять лет был директором
по монетизации в Facebook.
Работая на Twitter, я несколько лет
руководил их платформой по разработкам,
а затем -
отделом пользовательских продуктов.
Я был одним из изобретателей
Google Drive, Gmail Chat,
Facebook Pages
и кнопки «Мне нравится» на Facebook.
Ага. Вот поэтому я восемь месяцев
общался с юристами.
Мне аж не по себе.
Пока я там работал, я считал,
что фундаментально
мы действуем во благо.
Не уверен, что я всё еще так считаю.
Я ушел из Google в июне 2017 года
из-за этических соображений.
И дело не только в Google,
но и в индустрии в целом.
Я очень обеспокоен.
Очень обеспокоен.
Сегодня легко упустить из виду
тот факт,
что эти инструменты дали начало
прекрасным вещам.
Они помогали воссоединить семьи,
через них находили доноров органов.
По всему миру происходили значимые,
системные изменения
благодаря положительному влиянию
этих платформ.
Думаю, мы были наивны
по поводу обратной стороны этой медали.
Ты запускаешь эти штуки,
а они начинают жить своей жизнью.
И их применение сильно отличается
от того, что ты ожидал.
Я глубоко убежден, что никто никогда
не задумывал подобных последствий.
Тут нет какого-то одного злодея.
Нет. Ни в коем случае.
А в чём тогда проблема?
Есть ли здесь проблема
и в чём она заключается?
Трудно выделить одну краткую...
Я коснусь множества разных проблем.
В чём же проблема?
ОРИГИНАЛЬНЫЙ ДОКУМЕНТАЛЬНЫЙ
ФИЛЬМ NETFLIX
Несмотря на растущую критику,
технологические гиганты продолжают
расти.
Технологическая индустрия находится
под пристальным вниманием.
И новое исследование проливает свет
на связь
между психическим здоровьем
и социальными сетями.
Последние исследования
с нами обсудит...
...это вообще не освещается в СМИ.
Десятки миллионов американцев
безнадежно зависимы
от своих электронных устройств.
Усугубляется это тем,
что теперь можно изолировать себя...
ДРУГ ОТМЕТИЛ ТЕБЯ НА ФОТО
...в пузыре благодаря этим технологиям.
Фейк ньюс становятся всё изощреннее
и угрожают обществам по всему миру.
Создавая Twitter 12 лет назад,
мы не ожидали ничего подобного.
Согласно чиновникам,
нет оснований полагать,
что кибератаки от русских прекратятся.
YouTube вынудили сосредоточиться
на очистке сайта.
TikTok - если речь о детях 10-14 лет,
то даже не надейтесь,
что они его удалят...
Айла, можешь накрыть на стол?
Серьезный вопрос -
способствуют ли социальные медиа
детской депрессии?
Айла, накрой на стол, пожалуйста.
Среди подростков эти косметические
процедуры становятся всё популярнее.
Пластические хирурги обозначили это
как новый синдром -
Snapchat-дисморфия.
Молодые пациенты хотят лечь под нож,
чтобы стать похожими на себя
под фильтрами для селфи.
Не пойму, зачем ты дала ей
завести эту штуку.
А что мне было делать?
У всех ее одноклассников он есть.
Ей всего 11.
Касс, тебя-то никто не заставляет.
Можешь оставаться вне связи,
сколько хочешь.
Слушай, я без телефона на связи, ясно?
Я сейчас в интернете.
И это даже не настоящая связь,
а какое-то дерьмо...
Надзорный капитализм теперь формирует
нашу политику и культуру так,
что многие этого даже не понимают.
ИГИЛ нашло своих последователей в сети,
теперь то же делают крайние расисты.
Недавно в Индии
интернет-линчеватели убили
дюжину человек, включая пятерых...
Это не просто фейк ньюс,
а фейк ньюс с последствиями.
Как справиться с эпидемией
в эпоху фейк ньюс?
Можно ли вы заразиться коронавирусом
через китайскую еду?
Мы перешли из эпохи информации
в эпоху дезинформации.
Наша демократия находится под угрозой.
Я сказал следующее: «Инструменты,
созданные сегодня, начинают
разрушать социальную структуру
общества».
Аза приветствует аудиторию.
Мы проигрываем видео.
А потом: «Дамы и господа,
Тристан Харрис».
- Да.
- Отлично.
Так, я выхожу и...
ГУМАНИЗМ
НОВАЯ ПОВЕСТКА В ИНДУСТРИИ
В общем, благодарю всех за то,
что пришли.
Итак, сегодня я хочу поговорить о новой
повестке дня в области технологий.
Ведь если спросить людей о том,
что в этой индустрии на данный момент
не так...
То мы услышим какофонию негодования
и скандалов -
наши данные украли,
зависимость от девайсов,
проблема фейк ньюс, поляризация,
вмешательство в выборы.
Но есть ли что-то,
что лежит в самой основе этих проблем
и провоцирует всё это единовременно?
- Нормально?
- Очень хорошо. Да.
Я просто пытаюсь...
Хочу, чтобы люди поняли...
...что в индустрии ИТ
существует проблема.
У нее нет имени, и она связана
с одним источником...
Вы оглядываетесь по сторонам ...
...и кажется, что мир сходит с ума.
Вы должны спросить себя,
нормально ли это.
Или мы все попали
под какое-то заклинание?
ТРИСТАН ХАРРИС
БЫВШИЙ СПЕЦИАЛИСТ ПО ЭТИКЕ В GOOGLE
ЦЕНТР ГУМАННЫХ ТЕХНОЛОГИЙ
СОУЧРЕДИТЕЛЬ
Хотелось бы, чтобы больше людей
понимали, как это работает,
ведь это должно быть известно
не только внутри самой индустрии.
Об этом должны знать все.
- Привет!
- Привет.
- Тристан. Очень приятно.
- Тристан?
- Да.
- Чудно.
Тристан Харрис - бывший специалист
по этике в Google
и единственный голос совести
в Кремниевой долине.
Он просит индустрию
включать в свои продукты то,
что он называет «этичным дизайном».
Редко инсайдеры индустрии говорят
так открыто,
но Тристан Харрис считает,
что кто-то должен это делать.
Когда я работал на Google,
я был в команде Gmail
и начал «гореть на работе»,
так как мы так много обсуждали...
...как должен выглядеть почтовый ящик,
какого он будет цвета.
Я сам почувствовал зависимость
от электронной почты,
и мне показалось удивительным,
что никто в Gmail не работал над тем,
чтобы сделать ее менее аддиктивной.
И я подумал: «А больше никто об этом
не задумывается?
Не слышал, чтобы это вообще обсуждали».
Я чувствовал разочарование
технологической индустрией в целом -
казалось, что мы заблудились.
Я изо всех сил пытался понять,
как это можно изменить изнутри.
И тогда я решил сделать презентацию,
своего рода призыв к действию.
Каждый день я возвращался домой
и пару часов работал над ней.
В ней, по сути, говорилось,
что никогда в истории 50 дизайнеров,
белых ребят в возрасте от 20 до 35 лет
в Калифорнии,
не принимали решения,
влияющие на два миллиарда людей.
Два миллиарда людей будут думать о том,
о чём не планировали думать,
так как дизайнер в Google решил:
«Вот так будут работать уведомления
на экране, который вы видите,
просыпаясь по утрам».
И как Google мы несем
моральную ответственность
за решение этой проблемы.
Я отправил эту презентацию 15-20
ближайшим коллегам в Google.
Я очень переживал.
Не знал, какой эффект она произведет.
На следующий день на работе
я увидел презентацию
на большинстве ноутбуков.
ВНИМАНИЕ
Позже в тот же день ее читало уже
около 400 зрителей,
то есть аудитория всё росла.
Я получил письма от множества коллег.
Из каждого отдела мне говорили:
«Я полностью согласен, я вижу,
что это влияет на моих детей,
вижу, как это влияет на окружающих.
С этим надо что-то делать».
Мне показалось, что я начинаю революцию
или что-то в этом роде.
Позже я узнал, что о презентации
рассказали Ларри Пейджу
на трех разных встречах в тот день.
И это спровоцировало своего рода
культурный момент -
Google должен был принять это всерьез.
А потом...
...ничего.
Все в 2006 году...
...включая всех нас в Facebook,
восхищались Google и тем,
что Google сумел разработать.
Это невероятно полезный сервис,
который, насколько мы можем судить,
сделал много хорошего,
а параллельно еще они создали
денежный станок.
Мы так им завидовали,
он казался нам таким изящным...
...и таким идеальным.
Facebook существовал
уже около двух лет,
и меня наняли придумать для компании
бизнес-модель.
Я был директором по монетизации.
По сути,
я был тем, кто сообразит,
как монетизировать эту штуку.
Множество людей проделывали
кучу работы,
но именно я был одним из тех,
кто показывал, как...
Так, деньги будем делать на...
И, думаю, рекламная модель -
самый изящный способ для этого.
Что это за видео от мамы?
Из ток-шоу, но довольно неплохое.
Этот парень - гений.
Говорит, надо удалить соцсети.
К тебе это тоже относится.
Видимо, придется блокировать ее письма.
Серьезно, не понимаю, к чему это всё.
Она же еще хуже меня.
- Нет, она только рецепты смотрит.
- Да, и работает.
- И спортивные видео.
- И за нами следит.
И за всеми, кого повстречала
за всю свою жизнь.
Если вы прокручиваете свою ленту
в соцсетях,
пока смотрите нас,
отложите телефон и послушайте,
потому что наш следующий гость
написал невероятную книгу
о том, насколько разрушительное влияние
это оказывает на наши жизни.
Поприветствуйте автора
книги «Десять аргументов в пользу того,
чтобы удалить свои аккаунты в соцсетях
прямо сейчас»», Джарон Ланье.
Такие компании, как Google и Facebook,
являются одними из самых богатых
и успешных за всю историю человечества.
У них относительно мало сотрудников.
У них просто гигантский компьютер,
который рубит для них бабки.
А за что им платят?
Вот это очень важный вопрос.
Я уже 35 лет инвестирую в технологии.
В первые 50 лет своего существования
Кремниевая долина производила
железо и программное обеспечение
и продавала их клиентам,
дело непыльное.
Последние же десять лет
крупнейшие компании в Долине
занимаются тем,
что продают своих пользователей.
Об этом уже банально говорить,
но поскольку мы не платим за продукты,
которые используем,
за эти продукты платят рекламодатели.
Рекламодатели - клиенты.
А продают им нас.
Существует простая истина:
«Если вы не платите за товар, значит,
вы и есть товар».
ВЫ - ТОВАР
Многие думают,
что Google - это просто окно поиска,
а Facebook - место,
где можно быть на связи с друзьями,
смотреть их фотографии.
Но вот чего они не понимают -
эти компании конкурируют
за ваше внимание.
Facebook, Snapchat, Twitter,
Instagram, YouTube,
бизнес-модель всех подобных компаний -
не отпускать людей от экранов.
Давайте выясним,
как максимально завладеть вниманием
определенного человека.
Сколько времени он может потратить
на нас?
Сколько времени из своей жизни
он готов нам отдать?
Если задуматься о том,
как эти компании работают,
всё становится понятнее.
В интернете есть сервисы,
которые мы считаем бесплатными.
Но они не бесплатные.
За них платят рекламодатели.
Почему рекламодатели платят
этим компаниям?
В обмен на то,
что те показывают рекламу нам.
Мы - продукт. Наше внимание - товар,
продаваемый рекламодателям.
Это слишком простой подход.
Постепенное, едва незаметное изменение
в вашем поведении и восприятии -
вот что является товаром.
ИЗМЕНЕНИЕ В ПОВЕДЕНИИ И ВОСПРИЯТИИ
И это продукт.
Это единственный возможный продукт.
Нет ничего другого,
что можно было бы назвать продуктом.
Это единственное,
на чём они могут заработать.
Менять ваше поведение,
ваш образ мыслей, вашу личность.
Это постепенное изменение.
Едва заметное.
Если пойти к кому-то и сказать:
«Дай мне десять миллионов долларов,
и я изменю мир на один процент
в нужном тебе направлении...»
Целый мир! Последствия будут
невероятными, и это стоит кучу денег.
Так.
Об этом компании мечтали всегда -
иметь гарантию того, что размещенная
ими реклама будет успешной.
В этом их бизнес -
они продают определенность.
ОПРЕДЕЛЕННОСТЬ
Чтобы добиться успеха в этом бизнесе,
нужно делать точные прогнозы.
ТОЧНЫЕ ПРОГНОЗЫ
Точные прогнозы начинаются
с одного императива.
Вам нужно много данных.
ДАННЫЕ
Многие называют это
надзорным капитализмом.
Капитализм,
наживающийся на бесконечной слежке
за всеми и осуществляемой
крупными технологическими компаниями,
чья бизнес-модель состоит в том,
чтобы обеспечить
своим рекламодателям
максимальный успех.
Это новый вид торговой площадки.
Это рынок, которого раньше не было.
И это рынок, на котором торгуются
исключительно человеческие фьючерсы.
Так же, как есть рынок,
торгующий фьючерсами на свинину
или фьючерсами на нефть.
Теперь у нас есть площадка, на которой
торгуются человеческие фьючерсы
в крупных масштабах.
И эти площадки сгенерировали
триллионы долларов,
сделавшие интернет-компании
самыми богатыми компаниями
в истории всего человечества.
Я хочу, чтобы все знали,
что всё, что вы делаете в сети,
просматривается, отслеживается,
измеряется.
Каждое ваше действие
тщательно отслеживается и записывается.
Вплоть до того, на какую картинку
вы решили посмотреть
и как долго смотрите на нее.
Да, серьезно, как долго вы смотрите.
НАВИЯ_Р
ВРЕМЯ ПРОСМОТРА
РАЙАН_М
ВРЕМЯ ПРОСМОТРА
РЕН_Ф
ВРЕМЯ ПРОСМОТРА
Они знают, когда людям одиноко,
знают, когда люди в депрессии.
Они знают, когда люди смотрят фото
своих бывших.
Они знают, что вы делаете поздно ночью,
они знают всё.
Интроверт вы или экстраверт,
какие у вас неврозы,
каков ваш тип личности.
Никто никогда не располагал
таким количеством информации о нас.
Это беспрецедентно.
И все наши личные данные,
которые мы постоянно выкладываем,
вводятся в системы,
почти не контролируемые человеком.
И их прогнозы относительно того,
как мы себя поведем и кем являемся,
становятся всё лучше и лучше.
РЕКОМЕНДОВАНО ДЛЯ ВАС
Многие ошибочно полагают,
что продаются наши данные.
Отдавать кому-то данные не входит
в бизнес-интересы Facebook.
Что же они с ними делают?
Они строят модели,
которые предсказывают наши действия.
И побеждает тот, у кого лучшая модель.
Скорость прокрутки снижается.
Он скоро отключится,
снижаем количество рекламы.
Возвращаем друзей и родных.
С другой стороны экрана
они видят наш аватар
или своего рода куклу вуду.
Всё, что мы когда-либо делали,
все наши клики, все видео,
которые мы смотрели, лайки -
всё это помогает построению
всё более точной модели.
Как только она будет построена,
можно предсказывать поведение человека.
Ясно, сейчас проверю.
Я могу предсказать,
куда вы пойдете,
какие видео задержат вас.
Я могу предсказать,
какие эмоции вас триггерят.
Да, идеально.
Самые эпичные фейлы года.
ЭПИЧНЫЕ ФЕЙЛЫ!
- Чудно, сработало.
- А за ним еще видео.
Замечательно. Ввернем рекламу кроссовок
до ее начала.
Многие из этих компаний преследуют
три главные цели.
Цель захватить ваше внимание,
чтобы повысить время сессии.
Цель роста -
заставить вас вернуться
и пригласить друзей,
которые затем пригласят своих друзей.
А еще есть рекламная цель -
чтобы за все наши действия
мы приносили максимум денег с рекламы.
Каждая из этих целей основана
на алгоритмах,
задача которых - найти,
что показать вам,
чтобы эти цифры увеличивались.
В Facebook мы часто обсуждали идею
настройки параметров
по мере необходимости.
И мы говорили о том, чтобы у Марка
были эти ручки регулировки.
«Сегодня я хочу побольше пользователей
из Кореи».
Поверни ручку.
«Давайте отрегулируем рекламу».
«Слегка выкрутим монетизацию».
И вот так...
...то есть во всех этих компаниях
применяется подобный уровень точности.
- Чувак, как...
- Не знаю, как мне не дали карточку.
- Судья, видимо, был отстойный.
- Ты буквально дошел до...
- Это Ребекка. Иди поговори с ней.
- Я в курсе, кто это.
- Иди уже поговори.
- Я работаю над этим.
Согласно его расписанию,
он на перемене - должен быть онлайн.
Дернуть его?
Ага, подергай.
«Твой друг Тайлер в сети. Помаши ему».
Ну же, чувак.
Помаши ему.
Да ты даже не... Поговори с ней, чувак.
ТВОЙ ДРУГ ТАЙЛЕР В СЕТИ!
ПОМАШИ ЕМУ!
СЕТЕВЫЕ СОЕДИНЕНИЯ
Новая связь! Так, мы в деле.
Высвети ему дальше пост от пользователя
079044238820, Ребекка.
Хорошая идея. Согласно координатам GPS,
они недалеко друг от друга.
РЕБЕККА_Г
НАШЛА РОДСТВЕННУЮ ДУШУ!
Он готов для рекламы.
Начинаем аукцион.
ПРЕВЬЮ РЕКЛАМЫ
ГЕЛЬ ДЛЯ ВОЛОС DEEP FADE
Продано! Гелю для волос Deep Wax.
У нас было 468 участников.
А Бена мы продали за 3,62 цента.
Мы создали мир, в котором онлайн-связь
вышла на первый план,
особенно для молодого поколения,
и тем не менее, в этом мире
единственный способ профинансировать
состоявшуюся связь двух людей -
скрыто ввести в игру третье лицо,
которое платит,
чтобы ими манипулировать.
В общем, мы создали
глобальное поколение людей,
выросших в условиях,
когда сам смысл коммуникации,
смысл культуры заключаются
в этой самой манипуляции.
Мы поставили обман и коварство
в центр всего, что делаем.
«ЛЮБАЯ ДОСТАТОЧНО ПРОДВИНУТАЯ
ТЕХНОЛОГИЯ НЕОТЛИЧИМА ОТ МАГИИ».
АРТУР КЛАРК
- Так, как мне ее держать?
- Вот так отлично.
- Вот так?
- Да.
Как это будет выглядеть на записи,
если я сделаю так...
- Вообще, можно...
- Вот так?
- Чего?
- Ага.
- Давай еще раз.
- Вот именно.
Да. Нет, наверное, не...
Вот... ага.
А вот этот фокус менее...
Крис тут в полном недоумении...
Сойдет?
МАГИЯ!!!
Мне было лет пять,
когда я научился фокусам.
И я мог одурачивать взрослых,
всяких докторов наук.
Фокусники были первыми нейробиологами
и психологами.
Они были первыми, кто понял,
как работает человеческий разум.
Они в реальном времени испытывают
на людях свои подходы.
Фокусник понимает кое-что,
какую-то часть вашего восприятия,
о которой мы не в курсе.
Вот почему их иллюзии работают.
Врачи, юристы, люди, умеющие строить
самолеты или ядерные ракеты,
не знают, насколько уязвим
их собственный разум.
Это отдельная дисциплина.
И эта дисциплина применима
ко всем людям.
СТЭНФОРДСКИЙ УНИВЕРСИТЕТ
Этот подход может помочь
совсем по-другому взглянуть
на воздействие ИТ-продуктов.
Этому мы учились в Лаборатории
технологий убеждения в Стэнфорде.
Как можно использовать
комплексные знания психологии убеждения
и встраивать это в технологии.
Итак, многие из вас в этой аудитории -
уже гении.
Я считаю, что это так, но моя цель -
превратить вас в гениев
изменения поведения.
Много видных деятелей Кремниевой долины
ходили на этот курс -
главные специалисты по росту
в Facebook, Uber и других компаниях.
Там они научились делать технологии
более персуазивными.
Тристан - один из них.
Убедительные технологии -
это просто дизайн,
намеренно доведенный до крайности
с целью изменить чье-то поведение.
Чтобы человек совершал
определенные действия,
продолжал прокручивать пальцем ленту.
Крутишь вниз и обновляешь страницу -
наверху будет что-то новое.
Еще раз - снова что-то новое.
Каждый раз.
В психологии это называется
позитивным прерывистым подкреплением.
Ты не знаешь, когда получишь награду
или что вообще что-то получишь.
Это принцип работы игровых автоматов
в Вегасе.
Мне мало сознательного использования
продукта,
я хочу копнуть глубже, в ствол мозга,
и внедрить в вас
бессознательную привычку,
чтобы запрограммировать вас
на более глубоком уровне.
Вы это даже не осознаете.
Человек по имени Джеймс Маршалл...
Каждый раз,
когда вы видите свой телефон,
вы знаете, что если заглянуть в него,
в нём может быть что-то интересное,
то есть вы дергаете за ручку
игрового автомата.
Это не случайность.
Это техника дизайна.
Он приносит золотой самородок офицеру
в армии Сан-Франциско.
Имейте в виду, население Сан-Франциско
составляло...
Другой пример - отметки на фото.
Если вы получите электронное письмо
о том,
что ваш друг отметил вас на фото,
вы, конечно, нажмете на это письмо
и посмотрите фотографию.
Вы не способны это проигнорировать.
Воздействие оказывается
на глубоко укоренившиеся
человеческие инстинкты.
Вы должны спросить себя:
«Почему в этом письме нет фотографии?
Так было бы намного легче его увидеть».
Когда в Facebook придумали эту фишку,
они прямо набросились на нее,
ведь это отличный способ
развить активность в сети -
заставим людей постоянно отмечать
друг друга на фотках.
БЕН_В
ХОТЬ ОДИН ИЗ НАС ВЫГЛЯДИТ НЕПЛОХО.
Он прокомментировал.
Чудно.
Ребекка получила комментарий
и она отвечает.
Ладно, сообщи Бену, что она печатает,
чтобы не отключался.
Активирую многоточие.
ХОТЬ ОДИН ИЗ НАС ВЫГЛЯДИТ НЕПЛОХО
...
Отлично, она написала.
Он комментирует ее комментарий
на его комментарий под ее постом.
Погодите, он перестал печатать.
Давай автозаполнение.
Эмодзи. Он их обожает.
АВТОЗАПОЛНЕНИЕ
ЗАХВАТ ВНИМАНИЯ
Он выбрал огонь.
А я болел за баклажан.
Есть целая дисциплина и область
под названием «взлом роста».
Им занимаются команды инженеров,
чья работа -
взламывать психологию людей,
чтобы добиться большего роста.
Они получают больше подписчиков,
больше вовлечения,
заставляют вас приглашать больше людей.
После всех испытаний, итераций
и всего такого,
знаете, что мы поняли?
Пусть один пользователь пригласит
семь друзей за десять дней.
Вот и всё.
Чамат отвечал за рост,
когда Facebook только появился.
Он хорошо известен
в технологической индустрии
за новаторство в многочисленных
тактиках роста,
использовавшихся
для стремительного роста Facebook.
И эти тактики роста стали стандартным
пособием для Кремниевой долины.
Их использовали в Uber
и куче других компаний.
Одной из его передовых разработок стало
использование научного A/B-тестирования
в изменениях характеристик.
Такие компании, как Google и Facebook,
постоянно проводили на пользователях
множество небольших экспериментов.
И со временем,
проводя постоянные эксперименты,
выработали самый оптимальный способ
заставить пользователей поступать так,
как они хотят.
Это банальная манипуляция.
Я сейчас себя почувствовал
подопытным кроликом.
Ты и есть подопытный кролик.
Как и мы все.
И опыты над нами ставят
не для разработки лекарства от рака.
Они не пытаются нам помочь.
Так ведь? Мы просто зомби, а они хотят,
чтобы мы смотрели больше рекламы,
чтобы они заработали больше денег.
Facebook проводил так называемые
«масштабные эксперименты по заражению».
Отлично.
Как использовать подсознательные
стимулы на страницах Facebook,
чтобы привлечь больше людей
на промежуточные выборы?
И они обнаружили,
что способны это сделать.
Они пришли к выводу,
что мы теперь знаем,
что можем влиять на поведение и эмоции
реальных людей,
без ведома самих пользователей.
Они вообще не в курсе происходящего.
Мы направляем движки этих ИИ
на самих себя,
чтобы перестроить триггеры,
вызывающие у нас реакцию.
Это как стимулировать
нервные клетки паука,
чтобы увидеть,
на что реагируют его лапы.
То есть это настоящий
тюремный эксперимент,
в котором людей банально включают
в матрицу и собирают деньги и данные
с их деятельности в сети ради наживы.
А мы даже не в курсе,
что это происходит.
Мы хотим понять, как манипулировать
вашей психологией как можно быстрее
и впрыснуть вам в мозг допамин.
Мы великолепно справились с этим
в Facebook.
Instagram сделал то же самое,
как и WhatsApp.
Так сделал и Snapchat,
так сделал Twitter.
Это именно то,
что придумал бы такой хакер, как я.
Ведь они используют уязвимость
в человеческой психологии.
ШОН ПАРКЕР
БЫВШИЙ ПРЕЗИДЕНТ В FACEBOOK
Я думаю, что мы...
изобретатели, создатели...
...это и я, и Марк, это...
...Кевин Систром из Instagram,
все эти люди...
...явно это осознавали,
и мы всё равно это делали.
Никто не расстроился,
когда появились велосипеды.
Верно? Если все начнут ездить
на велосипедах,
никто не скажет: «Боже,
мы только что разрушили общество.
Велосипеды влияют на людей,
отталкивают их от собственный детей,
разрушают демократию,
люди не могут понять, что правда».
Про велосипеды мы такого не говорили.
Если что-то является инструментом,
то оно просто терпеливо
ждет своего часа.
Но если это что-то - не инструмент,
оно требует от вас чего-то,
соблазняет вас, манипулирует,
хочет чего-то от вас.
И мы перешли от технологической среды,
основанной на инструментах,
к среде, основанной на зависимости
и манипуляции.
Вот что изменилось.
Социальные сети - не инструмент,
который ждет, пока им воспользуются.
У них есть свои цели
и свои средства для их достижения
через использование вашей психологии
против вас самих.
«ЕСТЬ ТОЛЬКО ДВЕ ИНДУСТРИИ,
НАЗЫВАЮЩИЕ СВОИХ КЛИЕНТОВ
"ПОЛЬЗОВАТЕЛЯМИ" - НАРКОТИКИ
И ПРОГРАММНОЕ ОБЕСПЕЧЕНИЕ».
ЭДВАРД ТАФТИ
Отправимся на несколько лет назад,
я был президентом Pinterest.
Я приходил с работы домой и всё еще
не мог оторваться от телефона.
При этом у меня было двое детей,
нуждающихся в моей любви и внимании.
Я прятался в кладовке!
Отправлял письма
или смотрел что-то на Pinterest.
И я подумал: «Классическая ирония.
Я работаю целыми днями
и создаю что-то,
жертвой чего я сам становлюсь».
И я не мог... Порой я просто не мог
себя сдержать.
Меня больше всего затягивает Twitter.
Раньше это был Reddit.
Мне даже пришлось написать программу,
чтобы избавиться от зависимости
читать Reddit.
Я, наверное, больше всего зависим
от своей почты.
Реально. Я это ясно ощущаю.
Интересно, кстати,
что, зная о том,
что происходит за кулисами,
я всё еще не мог контролировать
свое время в приложении.
И это слегка пугает.
Даже зная, как работают эти трюки,
я всё равно чувствителен к ним.
Я всё еще могу взять телефон,
и 20 минут как не бывало.
Вы свой телефон по утрам проверяете
перед тем, как пописать?
Или пока писаете?
Других вариантов у вас в общем-то нет.
Я пытался напрячь свою силу воли...
«Я уберу телефон, оставлю его в машине,
когда вернусь домой».
Думаю, я говорил себе тысячу раз,
тысячами разных способов:
«Я не принесу телефон в спальню».
Но вот наступает вечер.
«Что ж, пойду принесу телефон
в спальню».
И это была...
...первая попытка через силу воли.
Вторая попытка была через грубую силу.
Перед вами Kitchen Safe.
Kitchen Safe - это новый революционный
контейнер, закрывающийся на время
и помогающий бороться с искушением.
Дэвиду нужно только положить
свои вкусняшки в Kitchen Safe.
Затем, повернув циферблат,
он устанавливает таймер.
И, наконец, нажимает на циферблат,
чтобы активировать замок.
Kitchen Safe - отличное ...
У нас же есть такой.
...видеоигры, кредитки и телефоны.
Да, есть.
Закрытый Kitchen Safe нельзя открыть,
пока таймер не достигнет нуля.
В общем, вот в чём дело.
Социальные сети - это наркотик.
В нас присутствует основной
биологический императив -
общаться с другими людьми.
Это напрямую влияет на выброс допамина
в мезомблический тракт.
В основе этой системы
лежат миллионы лет эволюции.
Поэтому мы собираемся вместе
и живем в сообществах,
находим партнеров,
размножаемся как вид.
Так что нет сомнений,
что такая среда как социальная сеть,
оптимизирующая связи между людьми,
будет иметь потенциал к аддиктивности.
Папа, хватит!
Мне еще тысячу снипов до ужина
надо отправить.
Снипов?
Я не знаю, что такое снип.
- Пахнет вкусно, детка.
- Спасибо.
Я тут подумала, было бы неплохо
использовать все пять чувств,
чтобы насладиться ужином.
Так что решила, что сегодня за ужином
мы все уберем телефоны.
В общем, сдавайте.
- Реально?
- Ага.
- Хорошо.
- Спасибо. Бен?
- Ладно.
- Мам, да ты телефонный пират.
- Забрала.
- Мам!
Они побудут в сейфе, пока мы ужинаем...
...и все смогут расслабиться. Хорошо?
- Можно посмотреть, кто это?
- Нет.
Пойду за другой вилкой.
Спасибо.
Милая, ты не сможешь его открыть.
Я заперла его на час, так что...
Прекращай.
Итак, о чём поговорим?
Ну, можем поговорить о придурках
из «Крайнего центра», которых я видел.
- Фрэнк, прошу.
- Что?
Я не хочу говорить о политике.
- А что не так с ними?
- Видишь? Он даже не понимает.
Смотря кого спросить.
Это как спросить,
что не так с пропагандой.
Айла!
Господи.
- Хочешь, я...
- Да.
Я переживаю за своих детей.
И если у вас есть дети,
я переживаю и за них.
Вооруженная всем своим знанием
и опытом,
я пытаюсь ограничить время,
которое мои дети проводят
за телефонами и компьютером.
Я спрашиваю у сына: «Сколько часов
ты просидел на телефоне?»
А он мне отвечает: «Полчаса. Максимум».
Я бы сказал, что максимум час,
полтора часа.
Пару недель назад я взглянула
на отчет
- и увидела три часа и 45 минут.
- Это...
Не думаю, что это... В среднем в день?
- Да.
- Пойду сейчас проверю.
Не проходит и дня,
чтобы я не напоминала детям
о балансе между болью и удовольствием -
о состояниях, вызванных дефицитом
допамина, о риске зависимости.
- Так.
- Момент истины.
Два часа, 50 минут в день.
- Посмотрим.
- Сегодня я много сидел.
- Последняя неделя.
- Поэтому так.
Instagram - шесть часов, 13 минут.
Ну ладно, мой Instagram хуже.
Она мне дисплей вдребезги разбила.
Спасибо, Касс.
А я тут при чём?
Это же ты постоянно напрягаешь маму
по поводу телефонов.
Нам не нужны телефоны,
чтобы поужинать.
Я тебя понимаю,
но в этом нет ничего такого.
Если нет ничего такого,
не пользуйся им неделю.
Да.
Да, если сможешь убрать эту штуку
на целую неделю...
Я куплю тебе новый экран.
- С этого момента?
- С этого самого.
Хорошо. Договорились.
Ладно, но оставишь его прямо тут.
Ладно, поставлю на зарядку.
Пусть все видят... Я ухожу.
Хорошо.
- Время пошло.
- Неделя.
Вот же...
Думаешь, справится?
Не знаю, посмотрим.
Поешь, ладно?
Вот это семейный ужин!
Эти технологические продукты не были
созданы детскими психологами,
целью которых было защитить
и воспитать детей.
Эти алгоритмы создавались так,
чтобы грамотно порекомендовать
вам очередное видео
или заставить вас сделать фото
с фильтром.
ПОНРАВИЛОСЬ ДВУМ ЛЮДЯМ
ВЫ УВЕРЕНЫ, ЧТО ХОТИТЕ УДАЛИТЬ?
НЕТ
ДА
И дело не только в этом,
дело еще в контроле над их вниманием.
В первую очередь этим злоупотребляют
соцсети - они начинают проникать
всё глубже в мозг
и влиять на чувство собственного
достоинства и самооценку детей.
СДЕЛАТЬ МЕНЯ КРАСИВЕЕ
ЛИЛИ_Т
МИЛАШКА!
СОФИЯ_М
БОЖЕ, КАКАЯ КРАСОТКА
ОЛИВИЯ_Б
ТЫ ТАКАЯ КЛЕВАЯ
АВА_Р
А МОЖНО УШИ ПОБОЛЬШЕ :-) ???
ХАХА
Эволюционное развитие способствовало
тому, что нас волнует ...
БРАЙАННА_С
ОТЛИЧНО ВЫГЛЯДИШЬ!
...что о нас думают члены нашего племени.
Это важно.
Но разве эволюция готовила нас к тому,
что мы будем знать,
что о нас думают 10 000 человек?
Эволюция не предусмотрела того,
что нас будут пичкать общественным
одобрением каждые пять минут.
Строение нашего мозга совсем
не предусматривает такого.
Мы организовываем наши жизни вокруг
этого ложного ощущения совершенства,
так как получаем вознаграждение
в виде кратковременных сигналов -
сердечек, лайков.
И для нас они представляют ценность,
мы отождествляем их с правдой.
А на самом деле это всё фальшивая,
хрупкая популярность...
...кратковременное чувство, которое,
признайтесь себе в этом,
опустошает вас еще больше.
Оно заставляет вас войти
в порочный круг,
где вы думаете:
«Что мне сделать теперь? Я хочу еще».
Подумайте об этом в масштабе
двух миллиардов людей,
и о том, как они будут реагировать
на восприятие себя другими.
Это... Это очень плохо.
Это очень, очень плохо.
Среди американских подростков
наблюдается гигантский скачок
в депрессии и тревожности,
который начался в период
с 2011 по 2013 год.
Число девочек-подростков из 100 000
в этой стране,
поступающих в больницы ежегодно
из-за того, что они порезали себя
или еще как-то себе навредили,
было довольно стабильным
примерно до 2010, 2011 годов.
А затем оно начало стремительно расти.
Касательно девочек-подростков постарше
это число выросло на 62%.
СЛУЧАИ ГОСПИТАЛИЗАЦИИ В США
ИЗ-ЗА НЕЛЕТАЛЬНОГО САМОВРЕДИТЕЛЬСТВА
Среди девочек 10-12 лет
рост составил 189%, почти втрое.
Еще ужаснее то, что мы видим
такой же паттерн с самоубийствами.
ЧИСЛО САМОУБИЙСТВ В США
НА 1 000 000 ДЕВУШЕК
Среди девочек-подростков
от 15 до 19 лет
их число выросло на 70% по сравнению
с первым десятилетием нашего века.
У девочек 10-12, у которых показатель
вообще очень низкий,
он вырос на 151%.
И эта закономерность указывает
на социальные сети.
СОЦИАЛЬНЫЕ СЕТИ,
ДОСТУПНЫЕ НА ТЕЛЕФОНАХ В 2009
Поколение Z, дети,
родившиеся после 1996 года, -
первое поколение в истории,
оказавшееся в соцсетях в средней школе.
Как они проводят время?
Они возвращаются домой из школы
и сидят в своих девайсах.
Целое поколение стало более тревожным,
более нестабильным, более депрессивным.
Они намного меньше склонны к риску.
Возраст, в котором они получают
водительские права, растет.
Число тех, кто когда-либо ходил
на свидание
или имел романтические отношения,
стремительно падает.
Это реальное изменение в поколениях.
И помните, что у каждого из них,
у каждого, попавшего в больницу,
есть семья, травмированная
и напуганная произошедшим.
«Боже, что же происходит
с нашими детьми?»
Для меня это ясно как божий день.
Эти сервисы убивают людей
и провоцируют их на самоубийства.
Я не знаю родителей, которые говорят:
«Да, я хочу, чтобы мои дети росли,
будучи манипулируемыми тех-дизайнерами.
Чтобы манипулировали их вниманием,
не позволяя учиться,
заставляли их примерять на себя
нереалистичные нормы красоты».
Это же никто не хочет.
Никто.
У нас были защитные механизмы.
Когда дети смотрели мультики
в субботу утром,
мы заботились об их защите.
Мы не допускали определенную рекламу
для детей такого возраста.
Но возьмите детский YouTube -
он сжирает всё их доступное внимание,
и теперь все детишки сидят
на детском YouTube.
А все меры предосторожности
и правила просто исчезли.
ВРЕМЯ БЕЗ ТЕЛЕФОНА
Мы тренируем и воспитываем
новое поколение людей...
...которое, когда им неудобно, одиноко,
при ощущении неопределенности и страха,
получают своего рода цифровую соску,
которая атрофирует их способность
справляться с этими чувствами.
В Photoshop не было тысячи инженеров
по ту сторону экрана,
использовавших уведомления,
ваших друзей,
ИИ, идеально высчитывающего,
что вас на него подсадит,
или разрешающего рекламодателям
проверить на вас
60 000 вариантов текста или цветов...
АНТИ-МОНОПОЛЬНАЯ ТЕХНОЛОГИЧЕСКАЯ
КОНФЕРЕНЦИЯ В ЧИКАГО
...чтобы понять, как идеально
манипулировать вашим разумом.
Это совершенно новый вид силы
и влияния.
Я бы еще раз отметил, что методы,
вызывающие у людей зависимость
или оказывающие на них влияние,
в этот раз совершенно другие.
Они были другими, когда появились
газеты и печатная пресса,
они изменились,
когда появилось телевидение,
и было всего три крупных сети и...
- В то время.
- В то время, об этом и речь.
Но я говорю,
что мы вышли на новый уровень,
и этот новый уровень случался
уже много раз.
Это просто последний новый уровень,
который мы наблюдаем.
Некоторые люди говорят так:
«Мы к этому адаптируемся.
Мы научимся жить с этими девайсами,
как научились жить со всем остальным».
Но они не понимают, что мы имеем дело
с чем-то совершенно новым.
Возможно, самое опасное - это то,
что технологии, стоящие за всем этим,
развиваются
в геометрической прогрессии.
ВЫЧИСЛИТЕЛЬНЫЕ МОЩНОСТИ КОМПЬЮТЕРОВ
Грубо говоря, с 1960-х годов
до сегодняшнего дня
мощность процессоров выросла
в триллион раз.
Ничто из того, что мы имеем,
не совершенствуется с такой скоростью.
Машины стали, может,
в два раза быстрее.
А развитие всего остального -
ничтожно мало.
И, наверное,
самое главное заключается в том,
что наша человеческая физиология,
наш мозг вообще не эволюционировали.
ВРЕМЯ БЕЗ ТЕЛЕФОНА
На уровне тела и разума,
в плане физиологии, человеческая особь
не претерпит коренных изменений.
Мы можем заняться генной инженерией
и вывести новые виды людей в будущем,
но, если смотреть реалистично,
у вас внутри - «железо», мозг,
которому миллионы лет,
перед вами - экран,
а на противоположной стороне экрана -
тысячи инженеров и суперкомпьютеров
цели которых отличаются от ваших.
Ну и кто победит в этой игре?
Кто победит?
Как мы его потеряли?
- Не знаю.
- Где он? Это не нормально.
Я слишком завалил его друзьями
и родственниками?
- Возможно.
- А может, рекламой.
Нет. Тут что-то не так.
Переходим в режим воскрешения.
Когда речь идет об ИИ,
о том, что ИИ разрушит мир,
вы представляете себе Терминатора
Арнольда Шварценеггера ...
Я вернусь.
...вы представляете себе дронов
и думаете: «ИИ погубит человечество».
Но люди упускают тот факт,
что ИИ уже управляет сегодняшним миром.
Любой разговор об «ИИ» как таковом -
просто метафора.
У таких компаний, как Google,
есть громадные помещения.
Некоторые из них под землей,
некоторые под водой,
в них одни компьютеры.
Тонны и тонны компьютеров,
насколько глаз хватит.
Они тесно связаны друг с другом,
и на них запускают
крайне сложные программы,
постоянно передавая информацию
от одной машины к другой.
На них воспроизводится множество
различных программ и продуктов.
Некоторые из них являются
простыми алгоритмами,
а некоторые - алгоритмы
настолько сложные,
что их можно назвать интеллектом.
Я люблю говорить, что алгоритмы -
это мнения, выраженные в коде,
и что алгоритмы не объективны.
Алгоритмы оптимизированы
под какое-то определение успеха.
И вот представьте,
если коммерческое предприятие
пишет алгоритм
согласно своему определению успеха,
получается коммерческий интерес.
Обычно это прибыль.
Перед компьютером ставится задача:
«Я хочу такой-то результат».
И компьютер сам начинает учиться этому.
Отсюда и происходит термин
«машинное обучение».
И с каждым днем
он становится всё лучше -
выбирает нужные посты
в нужном порядке,
чтобы вы тратили всё больше времени
на продукт.
И никто полностью не понимает,
что они делают,
чтобы достичь этой цели.
У алгоритм свой собственный разум,
и даже если его написал человек,
он написан так,
что вы, по сути, строите машину,
после чего машина совершенствует себя.
В этих компаниях всего горстка человек,
в Facebook, Twitter
и других компаниях...
Лишь несколько человек понимают,
как работают эти системы,
и даже они не обязательно
до конца понимают,
что произойдет
с определенным контентом.
То есть как люди мы почти потеряли
контроль над этими системами,
так как уже они контролируют
информацию, которую мы видим.
Они контролируют нас больше,
чем мы их.
Осуществляю перекрестную привязку
к сопоставимым лицам в его местности.
C его психометрическими двойниками.
В его регионе 13 694 человека
ведут себя так же, как он.
- Какие у них актуальные тренды?
- Нужно что-то дельное,
чтобы воскресить его,
привычные варианты не работают.
Даже эта милашка из школы.
Мой анализ показывает, что политический
контент «Крайнего центра»
с вероятностью 62,3% приведет
к долгосрочной вовлеченности.
Неплохо.
Для начала этого будет недостаточно.
Итак, мы пытались оповестить его
о фото с отметками,
приглашениях, актуальных событиях
и даже прямым сообщением от Ребекки.
А как насчет Пользователя 01265923010?
Да, Бен пролайкал все ее посты.
В течение месяцев и буквально все,
а потом - ничего.
Я рассчитываю вероятность
воскрешения на 92,3%
через уведомление об Ане.
НОВЫЕ ОТНОШЕНИЯ
И ее новом друге.
ВРЕМЯ БЕЗ ТЕЛЕФОНА
У ТВОЕЙ БЫВШЕЙ ДЕВУШКИ
НОВЫЕ ОТНОШЕНИЯ!
Да вы прикалываетесь.
Ладно.
АНА И ЛУИЗ В ОТНОШЕНИЯХ
Что?
Бум! Мы вернулись!
Продолжим рубить бабки, парни.
И связывать их со всем миром.
Даю ему доступ ко всей информации,
которая может ему понравиться.
Вы когда-нибудь задумывались о том,
полезно ли Бену читать эту ленту?
- Нет.
- Нет.
Я тебя заколдовала
Ведь ты мой
Лучше прекрати то, что делаешь
Ведь я не вру
А/Б-ТЕСТИРОВАНИЕ
«КРАЙНИЙ ЦЕНТР»
Нет, я не вру
Ты знаешь, что я этого не терплю
Ты всё куда-то бежишь
Тебе ведь лучше знать, папочка
Я не терплю, ведь ты меня отшил
Да, да
Я тебя заколдовала
Ведь ты мой
Ты мой...
Итак, представьте, вы на Facebook...
и вы играете
против искусственного интеллекта,
который знает о вас всё,
может предугадать ваш следующий шаг,
а вы о нём не знаете ничего,
кроме того, что у вас в ленте
видео с кошками и дни рождения.
Не честный получается бой.
Бен и Джерри, пора вставать!
Бен?
Бен.
Давай.
Пора в школу. Идем.
ЦЕНТР ГУМАННЫХ ТЕХНОЛОГИЙ
- Как чувствуешь себя?
- Нервничаю.
- Правда?
- Да.
Мы все ждали того момента,
когда технология превзойдет
человеческие силы и интеллект.
Когда же она достигнет сингулярности,
заменит нашу работу, станет умнее нас?
Но есть более ранний момент ...
... когда технология превосходит
человеческие слабости.
Эта точка пересечения лежит
в основе зависимости,
поляризации, радикализации,
разжигания ненависти,
тщеславия и прочего.
Это подавляет человеческую природу.
Это шах и мат человечеству.
Прости.
Один из способов, которыми я пытаюсь
убедить людей,
в том, как они ошибаются в соцсетях
типа Facebook, -
это через пример Wikipedia.
НОВАЯ ВКЛАДКА
Заходя на страницу, вы видите то же,
что и другие.
Это одна из немногих вещей в сети,
которая одинакова для всех.
А теперь представьте на секунду,
что Wikipedia говорит:
«Будем выдавать каждому
индивидуальное определение термина,
а нам будут за это платить».
Так Wikipedia следила бы за вами,
высчитывала бы,
что бы она могла сделать,
чтобы заставить вас слегка измениться
ради какого-нибудь
коммерческого интереса.
И она бы изменяла статьи.
Можете такое представить?
А должны бы -
именно это и происходит на Facebook.
Именно это происходит на YouTube.
Когда вы заходите в Google и вводите
«изменение климата»,
вы увидите разные результаты,
в зависимости от того, где вы живете.
ИЗМЕНЕНИЕ КЛИМАТА
В некоторых городах можно увидеть
автозаполнение
«изменение климата - миф».
В других случаях -
«изменение климата разрушает природу».
И это зависит не от того, что является
правдой об изменении климата,
а от того, откуда вы гуглите
и что Google знает о ваших интересах.
Даже двое очень близких друзей
с почти одинаковым списком друзей
думают, что увидят в ленте Facebook
точно такие посты,
но это совсем не так.
Они видят совершенно разные миры,
так как те основаны на вычислениях,
идеальных именно для них.
В ЭФИРЕ
Представьте, что одновременно в эфире
2,7 миллиардов шоу Трумана.
У каждого человека своя реальность
со своими...
...фактами.
Как ты думаешь, почему Труман
так до сих пор и не приблизился
к разгадке истинной природы
своего мира?
Мы принимаем реальность по тому,
как она нам представлена. Всё просто.
В ЭФИРЕ
Постепенно у вас появляется ложное
чувство, что все с вами согласны,
так как все в вашей ленте новостей
пишут то же, что и вы.
И оказывается, что в подобной ситуации
вами очень легко манипулировать.
Точно так же,
как вами бы манипулировал фокусник.
Показывая карточный фокус,
фокусник говорит: «Выбери любую карту».
Но вы не понимаете,
что он уже вас обхитрил,
и вы выбираете карту,
которую они хотят.
Так работает Facebook.
Facebook говорит вам:
«Ты выбираешь друзей, ссылки,
по которым переходишь».
Но это всё чепуха.
Как и в случае с фокусником.
Facebook отвечает за вашу ленту.
Мы все оперируем
на различных наборах фактов.
Когда это происходит масштабно,
вы больше не можете считаться
или даже потреблять информацию,
противоречащую тому мировоззрению,
которое вы создали.
Это значит, что мы, по сути,
не объективны и не конструктивны.
Открой глаза, не верь лжи!
Открой...
А потом вы смотрите на другую сторону
и начинаете думать:
«Как они могут быть такими тупыми?
Да вы посмотрите,
какую информацию я постоянно вижу.
Как они не видят ту же информацию?»
Ответ простой - они не видят
ту же информацию.
Открой глаза, не верь лжи!
Кто такие республиканцы?
Несведущие люди.
Демократы - преступный синдикат,
а не реальная политическая партия.
Новое масштабное исследование
Pew Research Center
в отношении 10 000 взрослых американцев
показало, что мы разделены
как никогда раньше.
Личная и политическая поляризация
достигла 20-летнего максимума.
Более трети республиканцев говорят,
что Демократическая партия
представляет угрозу для нации,
более четверти демократов говорят
то же самое о республиканцах.
Актуальные проблемы
политической поляризации,
существуют по большей части
на кабельном телевидении.
У СМИ такая же проблема.
Их бизнес-модель, по большому счету, -
продажа нашего внимания рекламодателям.
А интернет - новая,
еще более эффективная платформа.
В YouTube я работал над рекомендациями.
Меня беспокоит, что алгоритм,
над которым я работал,
усиливает поляризацию в обществе.
Но с точки зрения времени на платформе,
эта поляризация очень эффективна -
она не дает пользователям уйти с нее.
Учителя учат этому только потому,
что им за это платят.
- Это же абсурд.
- Привет, Бенджи.
Сегодня нет тренировки?
Есть. Я просто новости смотрю.
Cам подумай. Всё,
что противоречит «Крайнему центру» ...
Не назвала бы я эту чушь новостями.
Ты всегда говоришь о том,
какой вокруг хаос. Как и они.
Но это же просто пропаганда.
Это всё неправда.
Правда там, где есть логика.
Бен, серьезно. Не надо это смотреть.
Сходил бы лучше на тренировку.
Я рассказываю это,
потому что мне не всё равно.
Мне не всё равно, что вас обманывают.
Так быть не должно.
Люди думают, что алгоритм создан,
чтобы дать им то, чего они хотят,
но это не так.
Алгоритм пытается найти несколько
очень мощных кроличьих нор
и понять, какая из них
больше всего вас интересует.
И если вы начнете смотреть
одно из этих видео,
он будет рекомендовать их
снова и снова.
Никто не хочет, чтобы это происходило.
Просто система рекомендаций
работает именно так.
Вот вам пример Кайри Ирвинга,
известного баскетболиста.
Он заявил, что верит,
что Земля плоская, а потом извинился,
обвинив во всём кроличью нору
на YouTube.
Ты кликаешь на видео на YouTube
и отправляешься
в глубины кроличьей норы.
Когда он приехал на радио NPR,
чтобы извиниться за то,
что ввел людей в заблуждение,
некоторые затем заявили,
что это проделки тех, кто верит,
что Земля круглая.
Теория заговора о плоской Земле
была рекомендована
алгоритмом сотни миллионов раз.
Легко представить, что в это поверят
всего несколько дурачков,
но с каждым днем
алгоритм становится всё умнее.
И сегодня они убеждают людей,
что Земля плоская,
а завтра они будут убеждать вас
еще в какой-то ереси.
7 ноября родился хэштег «Pizzagate».
Pizzagate...
Боже.
Я до сих пор не уверена на 100%,
откуда это появилось,
но идея в том, что, заказывая пиццу,
вы заказываете жертву торговли людьми.
По мере роста этих групп на Facebook
механизм рекомендаций сети
начал предлагать обычным пользователям
присоединиться к группам Pizzagate.
То есть, если человек был, например,
антипрививочником
или верил в химиотрассы,
или каким-то образом указал
алгоритмам Facebook,
что он склонен верить
в теории заговора,
алгоритм Facebook рекомендовал ему
группы Pizzagate.
В конце концов это привело к тому,
что вооруженный мужчина
решил освободить детей из подвала
пиццерии,
в которой даже не было подвала.
- Что вы здесь делали?
- Хотел убедиться, что там ничего нет.
- Касательно?
- Общества педофилов.
- Кого?
- Педофилов.
Pizzagate. Он говорит о Pizzagate.
Это пример теории заговора,
которая распространялась
по всем социальным сетям.
Алгоритмы рекомендаций сетей
представляли это людям,
никогда в жизни не искавшим
термин Pizzagate.
PIZZAGATE
ГЛУБОКАЯ ТАРЕЛКА ДЕМОКРАТОВ И ПЕДОФИЛОВ
Есть исследование МТИ,
что фейк ньюс в Twitter
распространяются в шесть раз быстрее
настоящих новостей.
Каким будет этот мир,
когда один будет в шесть раз
превосходить другого?
Представьте, что эти вещи будто
наклоняют пол человеческого поведения.
Некоторое поведение они усложняют,
а некоторое облегчают.
И вы в любой момент можете
подняться выше,
но так делают немногие.
И в масштабах общества,
социальные сети просто наклоняют пол
и меняют мысли и поведение
миллиардов людей.
Мы создали систему,
склоняющую людей к ложной информации.
Не потому, что мы так хотим,
а потому что ложная информация
приносит компаниям больше денег,
чем правда. Правда ведь скучная.
Это бизнес-модель
«дезинформация ради прибыли».
Вы зарабатываете деньги,
продавая неконтролируемые сообщения
народу за лучшую цену.
Из-за изменения климата? Ага.
Это обман. Это реально.
Вот об этом-то и речь.
Чем больше они об этом говорят
и чем больше разделяют нас,
тем больше у них власти и контроля.
В лентах Facebook триллионы постов.
Они не могут знать,
что из этого является правдой...
И именно поэтому эта тема сейчас
так критична.
Быстро распространяется
не только COVID-19.
В сети масса дезинформации о вирусе.
Пить больше воды,
чтобы вымыть коронавирус из системы , -
очередной миф о вирусе,
распространяющийся в соцсетях.
Правительство всё спланировало
и создало вирус,
чтобы симулировать реакцию
разных стран.
Коронавирус - обман.
SARS, коронавирус.
И посмотрите, когда его изготовили.
2018 год.
Я думаю, это дерьмо - дело рук
правительства США.
Никто не болеет.
Никто не знает никого, кто болеет.
Может, правительство использует
коронавирус как предлог,
чтобы все сидели по домам,
так как происходит что-то другое.
Коронавирус не убивает людей,
дело всё в излучении 5G,
которое они накручивают.
БАШНЯ 5G СОЖЖЕНА
Нас бомбят разными слухами.
Люди взрывают вышки мобильной связи.
Мы видим, как Россия и Китай
распространяют слухи и теории заговора.
Утром в Украине разразилась
паника и протесты...
Люди не понимают, где правда,
и теперь это вопрос жизни и смерти.
Источники, распространяющие
дезинформацию о коронавирусе
получили около 52 миллионов просмотров.
Вы говорите, что раствор серебра
эффективен против вируса.
Скажем так, его не тестировали
на данном штамме коронавируса, но...
То что мы видим касательно COVID -
крайняя форма того,
что происходит в нашей
информационной экосистеме.
Социальные сети стремительно
распространяют сплетни и слухи
до такой степени, что мы не знаем,
что правда. И это касается всего.
Ты еще в команде?
Ясно, я пойду поем перед тренировкой,
присоединяйся, если хочешь.
Забей.
Девять из десяти людей
сейчас недовольны.
КЦ ничем не отличается
от других политических движений.
Мы выступаем против этого шума...
Вы - мои люди. Я доверяю вам, народ.
- Контент «Крайнего центра» идеален.
- Он прямо в восторге.
Начинаю аукцион.
843 претендентов, продано
производителю оружия за 4,35 цента.
Давайте продвигать их мероприятия.
Предстоящие митинги в его зоне
на этой неделе.
И еще один влогер наготове.
И, я вам честно говорю,
я готов пойти на всё, что угодно.
В прямом смысле... На всё.
- Подписывайтесь...
- Бен?
...и возвращайтесь, я вам обещаю...
...у меня для вас большие новости.
Очень большие новости.
Одна из проблем Facebook заключается
в том, что как инструмент убеждения -
это лучшее, что было создано.
А теперь представьте,
чем он может стать в руках диктатора
или авторитарного лидера.
Для контроля над населением страны
эффективнее инструмента чем Facebook
еще не существовало.
Одно из самых тревожных последствий
того, что правительства
и иные опасные лица берут соцсети
на вооружение,
в том, что вред проявляется в оффлайне.
Самый яркий пример,
широко освещенный в прессе, -
события в Мьянме.
АДМИНИСТРАЦИЯ ПРЕЗИДЕНТА МЬЯНМЫ
В Мьянме, когда речь идет об интернете,
имеется в виду Facebook.
И зачастую,
когда люди покупают телефоны,
владельцы магазинов заранее
устанавливает на них Facebook
и заводят покупателю профиль.
И когда люди получают телефон,
первое, что они открывают
и вообще знают, как открыть, -
это Facebook.
Новое шокирующее расследование
проливает свет на попытки Facebook
побороть разжигание ненависти в Мьянме.
ОСТАНОВИТЕ УБИЙСТВО МУСУЛЬМАН
Facebook дал военным
и другим опасным лицам
новый способ манипулировать
общественным мнением
и подстрекать к насилию
против мусульман-рохинджа.
Это вылилось в массовые убийства,
поджоги целых деревень,
массовые изнасилования
и другие серьезные преступления
против человечности,
которые привели к бегству
700 000 мусульман-рохинджа из страны.
Речь не о том, что раньше не было
высокомотивированных пропагандистов.
Дело в том, что платформы позволяют
распространять манипулятивные сюжеты
с феноменальной легкостью
и без больших денежных вливаний.
Если я захочу манипулировать выборами,
я могу зайти в группу
по теории заговора на Facebook
и найти сотню людей,
которые верят, что Земля плоская,
и что наша высадка на луне -
теория заговора.
Дальше я скажу Facebook:
«Дай мне тысячу таких людей».
Facebook с радостью отправит
мне тысячи подобных пользователей,
которым я могу отправлять
еще больше теорий заговора.
Продано за 3,4 цента за показ.
Выкатываю новый ролик КЦ.
Еще одно объявление на подходе.
Алгоритмы и политики-манипуляторы
становятся экспертами в том,
как триггерить нас,
совершенствуются в создании фейк ньюс,
которые мы потребляем как истину,
и заставляют нас верить в эту ложь.
У нас будто всё меньше контроля
над самими собой и своими убеждениями.
...чтобы выбрать сторону.
Повсюду одна ложь.
Чтобы они могли сохранить власть,
чтобы они могли всё контролировать.
Они контролируют наш разум,
чтобы никто не узнал их секреты.
СОМНЕВАЙСЯ В ПРАВДЕ
ЦЕНТР ПО КОНТРОЛЮ ЗАБОЛЕВАНИЙ
ПРИЗНАЛ СВЯЗЬ ВАКЦИНАЦИИ И АУТИЗМА
Представьте мир,
в котором никто не верит в правду.
ВАКЦИНЫ - НЕ ДЛЯ ВСЕХ
НЕ ТРОГАЙТЕ НАШИ ГЕНЫ
Все считают,
что правительство им лжет.
Всё вокруг - теория заговора.
«Нельзя никому доверять.
Я ненавижу другую сторону».
Вот к чему всё идет.
В Европе продолжают греметь
политические землетрясения,
на этот раз в Италии и Испании.
Традиционная центристская коалиция
Европы потеряла большинство,
успеха добиваются крайне правые
и левые популистские партии.
ЦЕНТР
Назад.
Так, поехали.
Эти аккаунты намеренно пытались
посеять политическую рознь в Гонконге.
Ну ладно, Бен.
Как выглядит страна,
которая целиком сидит на Facebook
и в социальных сетях?
Демократия быстро рухнула.
За полгода.
После хаоса в Чикаго
произошли жестокие столкновения
между сторонниками и противниками...
Демократии грозит кризис доверия.
Мы наблюдаем глобальную атаку
на демократию.
КРАЙНИЙ ЦЕНТР
Большинство мишеней - страны,
проводящие демократические выборы.
Это происходит масштабно.
Государственные органы,
люди с миллионами долларов говорят:
«Хочу дестабилизировать Кению, Камерун.
Ангола? Это же ничего не стоит».
В воскресенье в Бразилии
прошли внеочередные выборы.
С помощью кампании,
проводимой через социальные сети.
Мы в технологической индустрии
создали инструменты,
дестабилизирующие и разрушающие
структуру общества,
в каждой стране одновременно, везде.
Это происходит в Германии, Испании,
Франции, Бразилии, Австралии.
Некоторые наиболее развитые
страны мира
теперь схлопываются,
и что у них у всех общего?
Зная, что вы знаете сейчас,
считаете ли вы,
что Facebook повлиял
на результаты выборов 2016 года?
Сложный вопрос.
Знаете, это...
Реальность такова, что в этом
участвовало столько разных сил.
Представители Facebook, Twitter
и Google снова на Капитолийском холме,
начинается второй день показаний
о вмешательстве России
в выборы 2016 года.
Манипуляция третьими лицами -
не взлом.
Ясно?
Русские не взламывали Facebook.
Они использовали инструменты,
которые Facebook создал
для законных рекламодателей
и пользователей,
они лишь использовали их
для своих гнусных целей.
Это как дистанционная война.
Одна страна манипулирует другой,
не вторгаясь в ее физические границы.
Мы видим эти кадры массовой драки.
Участники толкают мусорный бак...
Но дело не в том,
за кого вы хотели проголосовать.
Смысл был в том,
чтобы посеять хаос и раскол в обществе.
А это марш в Хантингтон-Бич...
Смысл в том, что создать две стороны,
которые больше не слышат друг друга
не хотят друг друга слышать
и не доверяют друг другу.
Ненависть,
выплеснувшаяся на улицы города,
переросла в расовое насилие.
ТРОЕ УБИТЫ В ХОДЕ ПРОТЕСТОВ
В ВИРДЖИНИИ
Бен!
Кассандра!
- Касс!
- Бен!
А ну иди сюда!
Поднял руки. На колени.
А теперь на землю.
- Спокойно ...
- Бен!
Эй! Руки вверх!
Повернись. На землю.
Эту систему мы хотим продавать тем,
кто предложит больше денег?
Выставим демократию на продажу
во времена,
когда можно достучаться до любого,
направить ложь на конкретное население
и разжигать культурные войны?
Этого мы хотим?
Мы - народ...
... который больше не общается
друг с другом.
Мы - народ, переставший дружить
с близкими
из-за того, за кого они проголосовали
на прошлых выборах.
Мы - народ, изолировавший себя,
чтобы смотреть только те каналы,
которые говорят нам, что мы правы.
Сегодня я скажу следующее.
Трайбализм нас разрушает.
Он разваливает нашу страну.
Адекватные взрослые так себя не ведут.
Если у каждого есть право
на свои факты,
то нет нужды идти на компромисс
или объединяться.
По сути, не нужно больше общаться.
Нам нужно общее понимание реальности.
Иначе мы не страна.
МАРК ЦУКЕРБЕРГ
Решение в долгосрочной перспективе -
создать больше инструментов ИИ,
обнаруживающих на сервисах паттерны,
не похожие на поведение реальных людей.
Мы позволяем технологам обозначить это
как проблему,
которую они способны решить.
Это ложь.
Люди так говорят об ИИ,
как будто он знает правду.
ИИ не решит эти проблемы.
ИИ не может решить проблему фейк ньюс.
Это не Google решать,
является ли что-то теорией заговора
или истиной.
Они сами не знают правды.
Лучший индикатор правды для них -
клик пользователя.
Если мы не договоримся о том,
что правда
и о том, что правда вообще существует,
нам конец.
В этом заключается основная проблема -
если нельзя прийти к согласию о том,
что есть правда
то не получится решить
и остальные проблемы.
Предложим ему подписаться
на клуб «Плоская Земля».
Не надо больше новостей о спорте.
Ему не интересно.
Многие в Кремниевой долине
придерживаются теории,
что мы создаем глобальный супер-мозг,
а все наши пользователи -
просто взаимозаменяемые нейроны,
не представляющие важности.
И это ставит людей
в такое странное положение,
где вы просто являетесь
вычислительным элементом,
который мы программируем
через манипуляции поведением
для служения этому гигантскому мозгу,
но сами по себе вы ничего не значите.
Вам не заплатят, вас не признают,
у вас нет самоопределения.
Мы будем тайно манипулировать вами,
вы - вычислительный узел,
вас нужно лишь запрограммировать,
такова участь подобных узлов.
Боже.
Рассматривать технологии
как экзистенциальную угрозу -
серьезное заявление и...
Вот вы думаете: «Ладно я в телефоне...
...скроллю, кликаю, смотрю.
Где тут экзистенциальная угроза?
Ну ладно, суперкомпьютер
по ту сторону экрана,
направленный на мой мозг,
заставил меня посмотреть
еще одно видео. Где угроза-то?»
Дело не в том,
что технология представляет собой
экзистенциальную угрозу.
СЛУШАНИЯ СЕНАТА США
ПО УБЕДИТЕЛЬНЫМ ТЕХНОЛОГИЯМ
Дело в способности технологии
пробуждать самое плохое в обществе,
а самое плохое в обществе -
это и есть экзистенциальная угроза.
СЕНАТ США
Если технологии спровоцируют ...
...массовый хаос, возмущение, невежество,
отсутствие доверия друг к другу,
одиночество, отчуждение, поляризацию,
очередные взломы выборов,
очередной популизм,
отвлекать и не позволять
сосредоточиться на реальных проблемах ...
То пострадает общество.
И вот тогда общество ...
... потеряет способность исцеляться
и погрузится в хаос.
Это касается всех, даже если
вы не пользуетесь этими продуктами.
Эти штуки стали
цифровыми Франкенштейнами,
изменяющими мир по своему усмотрению,
будь то психическое здоровье детей,
или наша политика
и политический дискурс,
без какой либо ответственности
за перехваченную повестку дня.
- Опять же, всё сводится ...
- Кто, по-вашему, ответственнен за это?
Я считаю, нам нужно заставить платформы
отвечать за свои действия.
Когда рекламируют выборы,
они обязаны защищать выборы.
Когда они могут повлиять
на психическое здоровье детей
они должны защищать детей.
Гонка за внимание людей
никуда не уйдет.
Технологии будут всё более
интегрироваться в нашу жизнь.
ИИ будут лучше всё угадывать то,
что задержит нас перед экраном.
Хуже в этих моментах они не станут.
Мне вот 62 года,
старею с каждой минутой,
пока мы об этом говорим,
но вот что я вам скажу ...
Я, наверное, уже помру,
и буду этому рад,
когда вся эта хрень приобретет
реальные очертания.
Потому что мне вот кажется...
...это всё меня дико пугает.
Вы тоже так на это смотрите?
Или я слишком остро реагирую
на ситуацию, о которой не знаю?
Что тебя больше всего беспокоит?
Я думаю, в краткосрочном плане...
...гражданская война.
Если актуальный статус кво сохранится...
...скажем, еще на 20 лет...
...мы уничтожим нашу цивилизацию
через намеренное невежество.
Возможно, мы не справимся с проблемой
изменения климата.
Мы, возможно, приведем в упадок
демократии по всему миру,
они деградируют до уровня
дисфункциональных
автократических режимов.
Мы, возможно,
разрушим мировую экономику.
Возможно, мы не выживем.
Я правда воспринимаю это
как экзистенциальную угрозу.
Неужели мы - последнее поколение людей,
знающее, какой была жизнь до того,
как воплотилась эта иллюзия?
Как выйти из матрицы,
когда ты не знаешь, что ты в матрице?
«ПРИВЕДЕТ ЛИ ЭТО К УТОПИИ ИЛИ ЗАБВЕНИЮ,
БУДЕТ НЕИЗВЕСТНО
ДО САМОГО ПОСЛЕДНЕГО МГНОВЕНИЯ
ЭТОГО ЭСТАФЕТНОГО ЗАБЕГА»
БАКМИНСТЕР ФУЛЛЕР
Многое из того, что мы говорим,
звучит как ...
... мрачный приговор:
«Господи, технологии разрушают мир
и портят наших детей».
Но нет.
Тут легко запутаться, ведь они -
одновременно и утопия, и антиутопия.
Я нажму на кнопку на телефоне,
через 30 секунд подъедет машина,
и я смогу поехать туда, куда мне нужно.
Это же волшебство. Это потрясающе.
Создавая кнопку «Мне нравится»,
мы были мотивированы тем,
чтобы распространить по миру
позитив и любовь.
Мысль о том, что спустя какое-то время
это приведет к подростковой депрессии
или к политической поляризации,
нам даже в голову не приходила.
Не думаю, что эти ребята
изначально были злыми.
Проблема в бизнес-модели.
Можно закрыть сервис и всё уничтожить,
слить 20 миллиардов долларов
биржевой стоимости, попасть под суд и...
Но вы не можете затолкать джина
обратно в лампу.
Можно что-то поднастроить,
но в итоге всё равно
придется увеличивать доход платформы,
квартал за кварталом.
И чем больше он становится,
тем сложнее это изменить.
Я это вижу как кучку людей,
попавших в ловушку бизнес-модели,
экономических стимулов и давления
со стороны акционеров,
что практически связывает им руки.
Нужно признать, что это нормально,
что компании сосредоточены
на зарабатывании денег.
Плохо, когда нет правил,
законов и конкуренции,
а сами компании де-факто действуют
как правительства.
А затем они говорят:
«Мы можем сами себя регулировать».
Ну это же просто ложь. Это нелепо.
Финансовые стимулы управляют миром,
поэтому любое решение этой проблемы
должно в первую очередь перестроить
эти финансовые стимулы.
Нет никаких финансовых причин,
чтобы эти компании менялись.
И поэтому я считаю,
что нам нужно регулирование.
Телефонная компания хранит
кучу конфиденциальных данных о вас,
и есть множество законов,
не позволяющих им ее использовать.
Но законов о защите данных, например,
у нас почти нет.
Мы могли бы обложить налогом
сбор и обработку данных.
Так же, как вы, например,
платите за воду
исходя из объема ее потребления,
будет налог на основе объема данных,
которыми они располагают.
Это даст им финансовую причину
не собирать все данные на планете.
В этих сферах закон еще далеко позади,
но я знаю, что актуальная ситуация
не способствует защите пользователей,
она защищает права и привилегии
этих гигантских,
невероятно богатых компаний.
Мы всегда будем подчиняться
самым богатым и влиятельным людям?
Или мы когда-нибудь скажем:
«Бывают моменты, когда на первом плане
национальные интересы,
когда на первом плане интересы людей,
пользователей.
Это, на самом деле, важнее,
чем прибыль тех,
кто уже является миллиардерами»?
Эти рынки подрывают демократию
и свободу,
они должны быть вне закона.
Это не радикальное предложение.
Есть и другие рынки,
которые мы запрещаем.
Мы запрещаем продажу
человеческих органов.
Мы запрещаем торговлю рабами.
Потому что у этого неизбежные
разрушительные последствия.
Мы живем в мире,
где мертвое дерево стоит больше,
чем живое,
где мертвый кит стоит дороже живого.
Пока наша экономика работает
таким образом,
а корпорации остаются без контроля,
они продолжат уничтожать деревья,
убивать китов,
бурить землю и продолжать добычу нефти,
хоть мы и знаем,
что это разрушает планету
и ухудшит мир для будущих поколений.
Это кратковременное мышление,
основанное на религии наживы
любой ценой.
Корпорации, действующие
в своих корыстных интересах,
не изменят своего поведения.
Это уже давно сказывается
на окружающей среде.
Единственный, хоть и пугающий, вариант,
который, я надеюсь,
заставит нашу цивилизацию понять,
насколько ошибочной была
эта теория с самого начала,
это посмотреть на всё это так,
что теперь мы это дерево, мы - кит.
Наше внимание можно добывать.
Мы более прибыльны для корпораций
если сидим и пялимся на экраны,
пялимся на рекламу,
чем если бы мы тратили это время
на полноценную жизнь.
И мы видим результаты этого.
Корпорации используют мощный
искусственный интеллект,
чтобы обхитрить нас и придумать,
как привлечь наше внимание
к тому, на что нужно им,
а не то, что больше соответствует
нашим целям, ценностям и жизни.
СТИВ ДЖОБС
ГЛАВНЫЙ СПИКЕР
Для меня компьютер - это...
Это самый удивительный инструмент,
который мы придумали.
И это как велосипед для нашего разума.
Кремниевая долина начинала
с идеи гуманных технологий.
И мы упустили это из виду,
так как заниматься этим стало круто,
а не правильно.
Интернет был странным, безумным местом.
Он был экспериментальной площадкой.
В интернете присутствовал и сейчас,
конечно, присутствует креатив,
но теперь он больше похож
на гигантский торговый центр.
И тут ты задумываешься:
«Боже, как же мы скатились до такого?»
Видимо, я просто оптимист.
Я считаю, мы можем изменить
работу и значение социальных сетей.
Технологии работают не по законам
физики, не по железным правилам.
Этот выбор сделали люди вроде меня.
И люди могут изменить эти технологии.
И теперь вопрос в том,
готовы ли мы признать,
что эти негативные последствия
напрямую связаны с нашей работой.
Дело в том, что мы всё это создали,
и мы обязаны их изменить.
Модель извлечения внимания - не то,
как мы хотим обращаться с людьми.
Это только я ...
Бедолага.
Здоровье общества зависит от того,
выберемся ли мы
из этой разрушительной бизнес-модели.
Мы можем требовать гуманного дизайна
этих продуктов.
Можем требовать, чтобы нас не считали
извлекаемым ресурсом.
Нашим намерением должно быть
совершенствование мира.
На протяжении всей истории
любой прогресс начинается с того,
что кто-то заявляет:
«Так делать глупо, мы можем лучше».
Развитию ведь способствуют критики.
Это критики - настоящие оптимисты.
Здравствуй.
Это же кажется диким, верно?
То есть фундаментальные основы
дизайна этих штук ...
... идут в неправильном направлении.
Вообще вся эта сфера.
Когда мы заявляем,
что надо всё это изменить,
это звучит безумно,
но это именно то, что нужно сделать.
Думаешь, у нас получится?
Мы должны.
Ты, кажется,
настроен очень оптимистично.
Так вам показалось?
Да, ну...
Не могу поверить, что это так,
мне-то кажется, что я тут рассказываю,
что мы движемся к антиутопии.
По мне, мы стремительно мчимся
к антиутопии, и нам понадобится чудо,
чтобы этого избежать.
И это чудо, конечно, -
коллективная воля.
Я настроена оптимистично, считаю,
что мы разберемся с этим,
но, думаю, это займет много времени.
Потому что не все осознают,
что это проблема.
Я считаю, что одна из самых
больших проблем в технологии сегодня -
это отсутствие лидерства,
того, что люди открыто обсуждают
не только то, что получилось удачно,
но и то, что вышло не совсем идеально,
чтобы кто-то смог прийти
и создать что-то новое.
В конце концов, понимаете,
эта система не развернется, пока на нее
не будет оказано массовое давление.
Обсуждая эти темы
и высказывая наши мнения,
в некоторых случаях с помощью
этих самых технологий
мы можем переломить ход игры,
изменить развитие событий.
Это прозвучит странно, но это мой мир,
моя тусовка.
Я не ненавижу их,
не хочу навредить Google или Facebook.
Я лишь хочу изменить их,
чтобы они не уничтожили мир. Понимаете?
Я удалил кучу приложений
со своего телефона,
которые просто тратили мое время.
Все приложения соцсетей, новостей,
и я отключил уведомления
на всём, что вибрировало в мою ногу
новой информацией,
которая не представляла для меня
важности.
По той же причине
я не ношу в кармане печенье.
Сократите количество своих уведомлений.
Отключите уведомления.
Отключение все уведомления.
Я больше не использую Google,
я использую Qwant,
он не хранит историю поиска.
Никогда не принимайте видео,
рекомендованное вам YouTube.
Всегда выбирайте.
Это еще один способ борьбы с ним.
Есть куча расширений для Chrome,
удаляющие рекомендации.
Клево, что ты советуешь отказаться
от того, что сам придумал.
Ага.
Прежде чем репостить, проверяйте факты,
изучите источник, погуглите лишний раз.
Если кажется, что этот контент нацелен
на то, чтобы вызвать эмоции,
наверное, так и есть.
По сути, вы голосуете своими кликами.
Нажимая на кликбейт,
вы поддерживаете финансовый стимул,
подпитывающий существующую систему.
Убедитесь, что получаете
разную информацию в своей жизни.
В Twitter я подписана на людей,
с которыми не согласна,
так как хочу видеть
разные точки зрения.
Заметьте, что многие в тех-индустрии
не дают своим детям
пользоваться девайсами.
У моих детей вообще нет соцсетей.
Это правило или...
Это правило.
Мы четко этому следуем.
В этом плане мы психи.
И мы не даем нашим детям
проводить время за экранами.
Я разработал три простых правила,
которые облегчают жизнь семьям
и оправданы исследованиями.
Первое правило - выносим все девайсы
из спальни
в определенное время каждый вечер.
Неважно когда, за полчаса до сна
все девайсы отключены.
Второе правило - никаких соцсетей
до старших классов.
Лично я считаю, до возраста 16 лет.
В школе и так трудно.
Так что до старших классов.
И третье правило - рассчитывать время
с ребенком.
А если поговорить с ними и спросить,
сколько часов в день они хотят провести
в девайсе,
сколько им будет достаточно,
зачастую они скажут что-то разумное.
Слушайте, я прекрасно понимаю,
что я не могу убедить всех
удалить свои аккаунты в соцсетях,
но, думаю, что могу убедить некоторых,
и эти несколько человек -
уже достижение,
и причина в том,
что это дает тему для обсуждения,
так как я хочу, чтобы в обществе
было достаточно людей,
свободных от манипуляций алгоритмов
и готовых вести дискуссию,
не обусловленную
манипулятивными алгоритмами.
Так что вперед! Вырвитесь из системы!
Да, удаляйте. Слезьте с этой фигни.
Мир прекрасен. Снаружи же так здорово.
ПОДПИСЫВАЙТЕСЬ НА НАС В СОЦСЕТЯХ!
ШУТКА.
ДАВАЙТЕ ПОГОВОРИМ О ТОМ,
КАК ЭТО ИСПРАВИТЬ.
 

////////////////////////////