Мастриды
58.4K members
119 photos
28 files
1.38K links
Рациональность, трансгуманизм, лучшие книги и статьи.

Другие каналы от меня и моей команды: @slangbang, @mustwatch, @cultpop, @yourcareer, @yojob, @godnoplease

По рекламе: @daniltann

Написать автору: mazdrid@gmail.com

ВК: vk.com/mustreads
Download Telegram
to view and join the conversation
Апдейт о прогрессе в развитии искусственного интеллекта. Спойлер: пока что восстания Unfrienly AI не предвидится, но расслабляться не стоит.

theverge.com/2017/12/1/16723238/ai-artificial-intelligence-progress-index

#техно_мастрид
Возвращаемся к контенту не про баттл-рэп. Ваш вечерний мастрид - материал The New Yorker о девяти незаметных, но очень важных открытиях и технологиях, которые появились в 2017 году. В программе: биомешок-инкубатор, маскирующий цвет кожи платок, сращивание нервов с помощью паутины, GPS-рюкзаки (!) для насекомых и многое другое.

Оригинал на английском (оформление потрясающее, посмотрите): newyorker.com/magazine/2017/12/18/micro-revolutions-spidersilk-edible-drones-artificial-wombs-and-more

Русский перевод от волонтёров из @newochem: telegra.ph/Mikrorevolyucii-01-09

#техно_мастрид #тренд_мастрид
Свежий гайд по искусственному интеллекту от Wired: wired.com/story/guide-artificial-intelligence. Ничего сверхъестественного (я ожидал больших подробностей и глубины), но в тексте есть много интересных фактов об истории и трендах развития ИИ от создания этого термина в 1956 году до наших времён. Оказывается, первый чатбот появился в 1965 году, а первый самоуправляемый автомобиль – в 1987 году.

Всем, кто хочет побольше почитать про будущее искусственного интеллекта, дополнительно советую культовый лонгридище Wait But Why о проблеме недружественного ИИ.

Первая часть – waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

Вторая часть – waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html

Перевод на русский – interpreted.dirty.ru/perevod-revoliutsiia-iskusstvennogo-intellekta-684922

Это абсолютный мастрид: если вы в своё время пропустили его, прочтите обязательно. А ещё почитайте мастрид 2015 года от The New Yorker о профессоре Нике Бостроме, который работает над проблемой ИИ: newyorker.com/magazine/2015/11/23/doomsday-invention-artificial-intelligence-nick-bostrom. Сейчас создание Friendly AI – один из глобальных приоритетов человечества, в это вкладывают деньги и силы такие титаны, как Илон Маск, Питер Тиль, Стивен Хокинг, Элиезер Юдковски и многие другие.

Наконец, посмотрите классную маствотч-короткометражку с ещё одного моего канала @mustwatch на эту же тему: tlg.name/mustwatch/16 (лучшее изображение проблемы "Getting the AI out of the box" по версии Э. Юдковски).

#тренд_мастрид #техно_мастрид
Мастрид от Wired с кратким рассказом о текущем состоянии криптографической войны, а также об интересном техническом решении, которое может оказаться компромиссом между сохранением полной приватности пользователей и возможностью доступа органов правопорядка в исключительных случаях. Невозможно? Есть те, кто считает иначе.

«In engineering if you think hard enough, you can come up with a solution».

wired.com/story/crypto-war-clear-encryption

#техно_мастрид #криптоанархист_мастрид
Свежий мастрид - выжимка идей из новой книги Калума Чейcа, одного из авторитетнейших журналистов, пишущих про ИИ. Книга называется "Artificial Intelligence and the Two Singularities".

Чейс пишет, что люди скоро увидят, как роботы забирают их рабочие места, начнут паниковать («я следующий!») и бунтовать. А это приведёт к дальнейшему росту политиков-популистов (и левых, и правых) - такому, что Трамп в сравнении с ними будет выглядеть умеренным и адекватным лидером. Интересный тезис, хотя и небесспорный.

При этом Чейс не верит в то, что нам поможет универсальный базовый доход - правда, детальной аргументации в тексте по ссылке я не увидел, так что он меня не переубедил. (Подробнее об универсальном базовом доходе можете почитать здесь: tlg.name/mustreads/1443, посмотреть в маствотче от Kurzgesagt здесь: tlg.name/mustwatch/327 и послушать в «Терминальном чтиве» здесь: tlg.name/mustreads/1450).

Мастрид на английском: forbes.com/sites/bernardmarr/2018/07/02/how-artificial-intelligence-could-kill-capitalism

Русский перевод (немного корявый, но какой есть): medium.com/@smile.terminator.ai/0207-4b07495b169c

Книга Чейса на Амазоне (обязательно прочту и выдам вам рецензию): amazon.co.uk/Artificial-Intelligence-Singularities-Chapman-Robotics/dp/0815368542 (на русском пока не вышла).

Советую ещё один старый мастрид, посвящённый технологической безработице (от одного из самых умных блогеров-рационалистов SlateStarCodex): tlg.name/mustreads/1497. Мы с Фарсайтом обсуждали его в одном из выпусков «Терминального чтива», послушайте: tlg.name/mustreads/1500.

#тренд_мастрид #техно_мастрид
Беспилотные автомобили постепенно заменят пилотируемые. Да, сейчас много юридических и технических проблем, но они все решаемы, а каждый год из-за «человеческого фактора» на дорогах гибнут больше миллиона людей. Управление авто человеком нужно будет запретить (везде, кроме специально оборудованных для этого трасс).

А что насчёт самолётов? Уже сейчас пилоты активно используют функцию автономного управления - например, при посадке. Через несколько лет будет готова технология полностью автономных полётов. К каким последствиям это приведёт и какие споры могут возникнуть, читайте в мастриде от Bloomberg.

Оригинал (англ.): bloomberg.com/amp/news/articles/2018-10-10/will-you-fly-when-your-pilot-is-a-robot

Русский перевод (пэйволл): republic.ru/posts/92257

PS: придумал контраргумент против тезиса противников беспилотных полётов из текста: если человек вам говорит, что боится ошибки ИИ и что лучше будет переплачивать за нахождение за рулём пилотов, напомните ему про Андреаса Лубица - пилота, который в 2015 совершил самоубийство вместе с «Аэробусом», полным пассажиров.

#тренд_мастрид #техно_мастрид
В английском языке есть выражение «Sputnik moment». Когда СССР в 1957 году запустил первый спутник, для США это было неожиданно и отрезвляюще. Поэтому «момент спутника» - момент, когда ты понимаешь, что отстал от другой страны по какому-то направлению и что нужно срочно её догонять (есть ещё один синоним: wake-up call). В итоге американцы первыми полетели на Луну уже через 12 лет после «момента спутника», то есть сумели сделать выводы и обогнать нас в космической гонке.

Похожий момент наступил у китайцев, когда американская программа Alpha Go (принадлежащая гугловскому холдингу Alphabet) обыграла в 2016 году азиатских чемпионов по древней игре в го. Для большинства из нас в этом не было ничего особенного: подумаешь, Deep Blue уже давно к тому моменту обыграла Гарри Каспарова в шахматы, ИИ развиваются, всё по плану. Но для китайцев это выглядело так: американские программисты, которые даже не умели играть в древнюю азиатскую игру, создали алгоритм, победивший всех китайских и корейских чемпионов, чьи предки тысячами лет изучали го.

Впечатлённое руководство КНР вскоре поставило цель: к 2030 году стать мировым лидером по ИИ, создав индустрию объёмом не менее 150 млрд долларов. Естественно, свою роль сыграли и успехи США и других стран в боевом применении ИИ и роботов (Boston Dynamics, беспилотники, самоуправляемые боевые машины и т. д.), плюс желание китайцев создать настоящую полицейскую технодиктатуру. Победа Alpha Go стала лишь дополнительным триггером.

Китайцы начали много вкладывать в развитие ИИ на государственном уровне, включившись в гонку против США. Сейчас эксперты говорят о том, что начинается новая холодная война — кто первый создаст искусственный сверхинтеллект, тот и будет властелином мира (кстати, я сейчас почти дословно процитировал Путина). Трамп вводит ограничительные меры против Китая, разгорается много скандалов вокруг кибершпионажа, китайцы создают в некоторых своих регионах и в бедных африканских странах полигоны для испытания новых систем ИИ и многое идёт к тому, что мир разделится на зоны влияния США и КНР.

Эта новая холодная война может быть во многом похожа на предыдущую:

«Imagine it’s 2022: America’s confrontational economic policies have continued, and China has refused to yield. Huawei and ZTE have been banned from the networks of the US and key Western allies. Through investment and theft, Beijing has reduced its reliance on US semiconductors. Rival tech superpowers have failed to develop common standards. US and Chinese academics increasingly deposit their cutting-edge AI research in government safes instead of sharing it at international conferences. Other countries—like France and Russia—have tried to build homegrown technology industries centered on AI, but they lag far behind.

The world’s nations can commit to American technology: buying Apple phones, using Google search, driving Teslas, and managing a fleet of personal robots made by a startup in Seattle. Or they can commit to China: using the equivalents built by Alibaba and Tencent, connecting through the 5G network constructed by Huawei and ZTE, and driving autonomous cars built by Baidu. The choice is a fraught one. If you are a poor country that lacks the capacity to build your own data network, you’re going to feel loyalty to whoever helps lay the pipes at low cost. It will all seem uncomfortably close to the arms and security pacts that defined the Cold War...»

Абсолютный мастрид, почитайте: wired.com/story/ai-cold-war-china-could-doom-us-all

#тренд_мастрид #техно_мастрид #полит_мастрид
Топ-менеджер крутейшего венчурного фонда Долины Andreesen Horowitz составил список постов на форумах, которые стали историческими для развития IT:

1) t.co/Wb7UEXVrOy — Тим Бёрнерс-Ли анонсирует Всемирную Паутину (1991)

2) t.co/1lqN6uPq0z — Линус Торвальдс анонсирует «Линукс» (1991)

3) 1997.webhistory.org/www.lists/www-talk.1993q1/0182.html — Марк Андрисен предложил формат картинок для веб-браузеров (1993)

4) http://article.gmane.org/gmane.comp.encryption.general/12588 — Сатоши Накамото анонсирует биткоин (2008, 2 дня назад был юбилей — 10 лет прошло!)

Источник: twitter.com/cdixon/status/1057825405107720193

#техно_мастрид
«Some people use their hair to express themselves; I use Twitter.» (Илон Маск)

Послушал свежий подкаст Recode Decode с Илоном Маском, это мастлистен. Плюс вышла его текстовая расшифровка, почитайте, если удобнее в таком формате воспринимать: recode.net/2018/11/2/18053428/recode-decode-full-podcast-transcript-elon-musk-tesla-spacex-boring-company-kara-swisher

Зачем Маску нужно было работать по 100-120 часов в неделю (кстати, сейчас он снизил это число до 80-90), почему существование Tesla — огромное благо для всего мира, почему для SJW стыдно ездить на бензиновом авто, почему 2018 был худшим годом для Маска и ощущался как пятилетка, как улучшить самоуправляемые авто и почему Tesla в этом обходит всех с огромным отрывом, как он относится к конкурентам (в том числе Джеффу Безосу и его космической компании Blue Origin), какие новые футуристичные авто выпустит Tesla, умрёт ли Маск при посадке на Марс, как пришла идея запустить «Теслу» в космос, почему созданные Трампом Военно-космические силы нужны стране, что будет с Boring Company и OpenAI, и много другие классных вопросов и ответов.

Потом ещё гуглил и залип на паре сайтов:

1. Сайт конкурента «Теслы» — американского автостартапа Lucid, который на днях привлёк 1 миллиард (!) долларов от арабских инвесторов: lucidmotors.com. Их электрокар выглядит просто потрясающе, посмотрите. В массовое производство его запустят в 2020 году.

2. Сайт китайского автостартапа Byton, который в ближайшее время запустит, пожалуй, самый футуристичный электрокар: byton.com.

#тренд_мастрид #техно_мастрид
Не только Google и Facebook, но и Netflix получает огромные массивы информации о своих пользователях.

Почитайте мастрид от Cracked о том, как отличаются реклама фильмов и сериалов у разных людей (на примере семейной пары). Вывод из текста один: либо сервис лучше понимает человека, чем он сам себя понимает, либо алгоритмы «Нетфликса» полны сексизма и почему-то необоснованно думают, что женская грудь и насилие лучше привлекут мужчину к их сериалу, чем нейтральная картинка с сильным женским персонажем. Я думаю, что верный здесь скорее первый вариант, big data никогда не врёт, сексизм здесь ни при чём.

Автор удивлён: он смотрит на «Нетфликсе» почти то же самое, что его жена, но ему подсовывают совершенно другую рекламу, из которой можно подумать, что он больной ублюдок и падок на клишированные кринжево-кликбейтные фразы (посмотрите материал, там реально фразы а-ля баннерная реклама на разных сомнительных сайтах).

«Могу представить день, когда у кого-нибудь случится психологический срыв, тогда он отправится совершать серию преступлений, а рекламный алгоритм узнает об этом раньше остальных. И вместо того, чтобы предупредить полицию, он будет бездумно подпитывать этот аппетит день за днём без осуждения».

Добавлю только, что вряд ли просмотр сериалов повысит вероятность убийств и насилия, но в остальном тезис интересный.

По словам автора, на Netflix существует больше 27 тысяч категорий пользователей для их фильмов и сериалов. Также он приводит пример одной из классификаций — «Призма Claritas», которая насчитывает 62 социоэкономические категории. Например:

• «Юный диджирати»: «Технически подкованные одиночки или пары, живущие в модных районах на границе пригорода. Богаты, с высшим образованием, смешанной расы».

• «Молоды и простоваты»: «Низкий доход, окончили школу, живут в крошечных квартирах в небольших городах. Образ жизни сконцентрирован на спорте, машинах и свиданиях».

• «Мобильный блюз»: «Расово смешаны, до 25 лет. Исследования показывают, что они любят ходить в кино, играть в баскетбол и в бильярд.

Оригинал (англ.): cracked.com/blog/the-alarming-way-netflix-customizes-itself-to-our-tastes

Рус. перевод: vc.ru/marketing/49528-muzhchinam-zhestokie-sceny-zhenshchinam-obrazy-silnyh-geroin-kak-netflix-adaptiruet-serialy-pod-raznye-auditorii

#техно_мастрид #соц_мастрид
Прочёл новый пост от блогера Вастрика про то, как он заморочился и автоматизировал свой «умный дом». Много детальных рекомендаций и сравнений разных девайсов и экосистем - от Apple до Xiaomi. Особенно мне понравилась часть с конкретными идеями, какие задачи стоит поручить своему умному дому, почитайте: vas3k.ru/blog/homesillyhome.

Основная проблема с умным домом на сегодня - в том, что тебе нужно либо тратить него большие деньги, либо, если хочешь сэкономить, потратить десятки часов на то, чтобы разбираться с матчастью. Многие устройства сложно синхронизировать друг с другом из-за разных протоколов, нужно закупать специальные прослойки - хабы, и это только начало глубокой кротовой норы, в которую вы проваливаетесь, захотев сделать своё жилище более технологичным. Имхо, это того не стоит - я бы точно не стал тратить столько же времени, как Вастрик, на то, чтобы разбираться со всеми техническими вопросами. Думаю, те, кто так делают, кайфуют в том числе и от самого процесса, но мне было бы жалко временных затрат. Тем более через 5 лет все технологии «умного дома» будут совершенно другими (они постоянно меняются и устаревают очень быстро). Тогда и сделаю себе полностью smart home (это будет трэп-хата трансгуманиста).

У меня дома есть «Яндекс.Станция» - умная колонка от «Яндекса», с которой я периодически общаюсь (внутри сидит яндексовский ИИ - Алиса). Мне нравится - особенно удобно, что со временем Алиса начала понимать мои музыкальные вкусы и составлять для меня отличные плейлисты (в основном я использую её для музыки).

За этот девайс не стыдно, и я рад, что в России делают что-то действительно технологически крутое, помимо ракет и танков. Но пока это, конечно, не полноценный искусственный интеллект-консъерж, о котором я мечтаю (условный Джарвис). Хотя гаджет классный и нравится всем моим гостям (если человек первый раз приходит ко мне в гости, он гарантированно залипнет за беседой с Алисой). Так что всё респект «Яндексу» и спасибо (они мне подарили колонку как блогеру).

PS: Вастрик - интересный чел, один из лучших гиков-блогеров на русском, рекомендую. Уже постил здесь пару годных мастридов-эксплейнеров от него:

- Как устроены блокировки сайтов и сервисов с технической точки зрения и как их обходит Телеграф: tlg.name/mustreads/1555

- Как устроены блокчейн, биткоин, эфир и смарт-контракты (тема сложная, но объяснение доступное и неформальное): tlg.name/mustreads/1214

#техно_мастрид #лайфстайл_мастрид #трансгуманист_мастрид
1. Переводчики-волонтёры из @newochem (респект!) проделали титаническую работу и перевели классический мастрид от Тима Урбана (Wait But Why) об эволюции ИИ и о том, почему человечеству стоит бояться появления сверхсильного ИИ, а ещё записали аудиоверсию перевода.

Если вы ещё не читали этот текст Урбана, самое время ознакомиться. Многие великие умы современности считают проблему появления сверхинтеллекта важнейшей проблемой в истории человечества, и если мы не справимся с разработкой дружественного ИИ, эта история может закончиться преждевременно и грустно.

Текст огромный, предупреждаю. Но читается легко, написан в фирменном лёгком и остроумном стиле Урбана.

Оригинал мастрида от Wait But Why (англ).: waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

Русский перевод (текст + аудиоверсия): telegra.ph/Revolyuciya-iskusstvennogo-intellekta-na-puti-k-sverhrazumu-01-14

2. Ещё почитайте мастрид от Люка Мюльхаузера, который на момент написания текста был исполнительным директором Machine Intelligence Research Institute (MIRI) – НКО, основанную Элиезером Юдковским (автором “Гарри Поттера и методов рационального мышления”, популяризатором рациональности и просто мегамозгом). MIRI занимается решением проблемы дружественного ИИ.

Мюльхаузер проанализировал пост Тима Урбана и обратил внимание на некоторые ошибки, хотя в целом он согласен с Урбаном и хвалит его.

Оригинал мастрида от Мюльхаузера (англ.): lukemuehlhauser.com/a-reply-to-wait-but-why-on-machine-superintelligence

Русский перевод (текст + аудиоверсия): telegra.ph/Otvet-Timu-Urbanu-po-povodu-iskusstvennogo-sverhrazuma-01-18

3. Ещё, если пропустили, почитайте мастрид 2015 года от The New Yorker о профессоре Нике Бостроме, который работает над проблемой ИИ: newyorker.com/magazine/2015/11/23/doomsday-invention-artificial-intelligence-nick-bostrom.

И посмотрите мощную художественную короткометражку с @mustwatch на эту же тему: totalshortfilms.com/ver/pelicula/578 (лучшее изображение проблемы "Getting the AI out of the box" по версии Юдковского). Круто снято, развязка неожиданная и шокирующая. Пожалуй, самое реалистичное киноизображение рисков ИИ.

И послушайте выпуск нашей с Фарсайтом радиопередачи «Терминальное чтиво» (ещё до того, как радиопередачу закрыл Роскомнадзор и мы перешли на подкасты), где мы обсуждаем текст Урбана (и русских миллениалов): tlg.name/mustreads/1472

#золотой_фонд_мастридов #техно_мастрид
Важный текст о том, почему Фейсбук стал приносить миру больше зла, чем добра, и что всё будет только хуже, а глобальную катастрофу может предотвратить только глобальная реформа регулирования ИТ-гигантов. Автор – бывший ментор Цукерберга, известный инвестор Кремниевой долины, который вложился в Фейсбук на самой ранней стадии и до сих пор владеет его акциями, но, тем не менее, беспокоится из-за вреда, который наносит человечеству руководство этой соцсети.

Я сначала подумал, что это очередной алармистский и популистский текст ни о чём, но нет: реально глубокий мастрид с неочевидными аргументами. До прочтения текста я думал, что от детища Цукерберга больше пользы человечеству, чем вреда (хотя и понимал многие риски), но после прочтения скорректировал мнение и ещё более серьёзно стал воспринимать вред ФБ.

Интересное сравнение от автора: он вспоминает момент, когда предыдущие поколения получили научные данные о вреде табака для здоровья и нашли в себе силы противостоять лобби и принять ограничительные законы против курения. Автор мастрида проводит параллель: сейчас мы находимся в похожей ситуации. Очевиден вред от ФБ для демократии, приватности и даже безопасности и здоровья людей (подробнее см. мастрид). Нужно что-то делать.

Автор предлагает конкретные практические шаги. Не все они кажутся мне реалистичными, но есть много здравых и при этом неочевидных решений. Например, одно из них – правительственные субсидии стартапам, которые отказываются от продажи данных о своих пользователях и от других вредных практик. Мол, правительство и так субсидирует много социально значимых индустрий (возобновляемую энергию, сельское хозяйство и т.д.), а здоровые соцсети не менее важны для общественного благополучия.

Конечно, здесь есть и контраргумент: если государство будет влезать в интернет и поощрять какие-то вещи финансово, а какие-то наказывать, это может привести к цензуре и другим злоупотреблениям. В общем, тема непростая.

Мастрид: time.com/5505441/mark-zuckerberg-mentor-facebook-downfall

Автор написал целую книгу "Zucked. Waking up to the Facebook catastrophe", она выйдет в феврале. Добавил в ридлист.

Пост топ-менеджера ФБ Шерил Сэндберг, ссылку на который скинули пиарщики компании журналу Time в ответ на эту статью: facebook.com/sheryl/posts/10161131889740177. В нём рассказывается о мерах, которые ФБ принимает, чтобы исправить нынешнюю ситуацию. Но я уверен, что ничего особенно не изменится, пока не вмешается государство – анонсированные Сэндберг изменения в политике Фейсбука слишком уж незначительны. Это больше похоже на damage control и попытку оправдаться перед обществом и перед регулирующими органами.

А ещё интересно представить, чем сейчас занимаются в кулуарах лоббисты Фейсбука, Гугла и прочих компаний. Известно, что все эти гиганты активно спонсируют разных политиков, НКО и так далее и наверняка могут в какой-то степени манипулировать президентом, конгрессменами и другими политиками.

Почитайте ещё прошлогодний мастрид про внутреннюю кухню ФБ и переписки Цукерберга с Сэндберг: tlg.name/mustreads/1819

И, если пропустили, ультимативный мастрид про то, насколько реальным было российское влияние через соцсети на американские выборы: tlg.name/mustreads/1830

#тренд_мастрид #техно_мастрид #полит_мастрид
12 трендов 2019 года в Fun Tech:

1) стремительный рост киберспортивного сегмента

2) продолжающаяся революция музыкальной индустрии (стриминг уже сильно изменил правила игры)

3) рост видеоигр-блокбастеров

4) окончательная победа онлайн-развлечений над офлайновыми по количеству потраченного на них времени

5) захват мира приложением TikTok (казалось бы – подумаешь, школьники кривляются под музыку на видео, но компания-владелец приложения стоит уже 80 миллиардов долларов!), падение ФБ и рост Инстаграма

6) коллективное потребление развлечений

7) голосовые ассистенты везде

8 ) экспансия OTT (over the top – видеоуслуги через интернет: Netflix, Hulu и др.)

9) VR в порно

10) SilverTech (т.е. сегмент технологий для пожилых людей, в т.ч. цифровых развлечений)

11) естественно, ИИ и машинное обучение

12) приватность.

Выше я пересказал эту статью: vc.ru/future/56364-12-trendov-v-funtech-kakimi-budut-cifrovye-razvlecheniya-v-2019-godu. Толковый список с обоснованием каждого пункта, почитайте.

Вдогонку, если пропустили, посмотрите классный отчёт о трендах в сегменте sex tech: tlg.name/mustreads/1198 (не только секс с роботами!) и мастрид про новую «холодную войну» между американцами и китайцами в сфере ИИ: tlg.name/mustreads/1771.

#тренд_мастрид #техно_мастрид
Билл Гейтс составил список из 10 прорывных технологий 2019 года для журнала MIT Technology Review: technologyreview.com/lists/technologies/2019

Повышение ловкости конечностей роботов, ядерная энергетика нового поколения, предотвращение преждевременных родов с помощью генетических тестов, ФГС с помощью нанокапсул, вакцины от рака, искусственные бургеры, умные ИИ-помощники и многое другое.

Советую ещё один материал из свежего выпуска MIT Tech Review с участием Гейтса – его беседу с главредом журнала, в которой он объясняет, почему верит в искусственное мясо, рад конкуренции США с Китаем, инвестирует в проекты по электроэнергии и созданию гигиеничных туалетов.

Видеоверсия беседы (более подробная): technologyreview.com/s/612924/bill-gates-explains-why-we-should-all-be-optimists

Текстовые выжимки: technologyreview.com/s/612924/bill-gates-explains-why-we-should-all-be-optimists

#тренд_мастрид #техно_мастрид
Последнюю неделю вновь все стали обсуждать риски, которые Фейсбук и другие ИТ-гиганты несут для мира.

1. Марк Цукерберг записал полуторачасовую дискуссию с Ювалем Ноем Харари ("Sapiens", "Homo Deus", "21 lessons for XXI century") о проблемах нынешней технологической революции. Харари разнёс Цукерберга в пух и прах мощными аргументами про риски, перед которыми стоит человечество из-за развития ИИ и других технологий, принадлежащих небольшому числу одержимых погоней за деньгами и влиянием корпораций и государств. Посмотрите обязательно, я подробно написал на "Маствотче" про дискуссию и про то, почему позиция Цукерберга неубедительна: tlg.name/mustwatch/659

2. В The New York Times вышла сверхрезонансная колонка Криса Хьюза, отошедшего от дел сооснователя Фейсбука, в которой он предложил разбить Фейсбук на несколько компаний ради блага общества: nytimes.com/2019/05/09/opinion/sunday/chris-hughes-facebook-zuckerberg.html. Напомню, что в руках у Цукерберга сосредоточен сам ФБ (2.3 млрд MAU - ежемесячных юзеров), WhatsApp (1.6 млрд MAU), FB Messenger (1.3 млрд MAU) и Инстаграм (1 млрд MAU). Это сверхмонополия на соцсети в западном мире. Причём команды Вотсапа и Инстаграма были недавно уволены Цукербергом. И он владеет 60% голосующих акций ФБ. То есть это фактически диктатура практически без "сдержек и противовесов".

Хьюз аргументированно доказывает, что Фейсбук не может быть признан "естественной монополией", что отсутствие конкуренции и безальтернативность сервисов этой корпорации - это зло. И приводит много пугающих примеров. Его предложение (и законы США это позволяют): разделить компанию на несколько по решению антимонопольного органа.

3. В ответ на это в The New York Times выходит колонка Ника Клегга, вице-президента ФБ по международным делам и коммуникациям: nytimes.com/2019/05/11/opinion/facebook-nick-clegg-chris-hughes.html. Неожиданных аргументов в ней нет: стандартная риторика про то, как ФБ относится к своей миссии и продолжает исправлять косяки, а ещё тезис "большая компания сама по себе не обязательно значит, что это плохо, не нужно наказывать нас за успешность".

4. Вряд ли целостности ФБ что-то грозит, но изменения в законодательстве США точно назревают - о них просит сам Цукерберг и топы других ИТ-гигантов, понимая, что им нужно "играть на опережение", пока правительство всерьёз за них не возьмётся. В ЕС есть вступивший в силу в прошлом году GDPR ("Генеральный регламент по защите данных"), направленный на защиту персональных данных - о необходимости похожего закона для США говорил Цукерберг в беседе с Харари. И наверняка это не единственная сфера, в которой государство будет "нажимать" на ФБ. Скоро увидим.

5. Почитайте ещё мартовскую колонку Цукерберга о будущем ФБ: facebook.com/notes/mark-zuckerberg/a-privacy-focused-vision-for-social-networking/10156700570096634 (англ. оригинал), thebell.io/tsukerberg-obnovil-politiku-facebook-glavnoe-teper-messendzhery-i-bezopasnost (рус. пересказ). Некоторые из планов: автоматическое удаление переписок (привет, Дуров), отказ от строительства дата-центров и хранения данных пользователей в несвободных странах (привет, Роскомнадзор).

#тренд_мастрид #техно_мастрид
У приложения TikTok уже больше миллиарда скачиваний по всему миру, но большинство людей старше пятнадцати лет совершенно в нём не разбираются. Во всяком случае, для меня это какой-то параллельный мир.

Я читал много разных текстов про Тик-Ток, но на днях в журнале The New Yorker вышел, пожалуй, лучший. Огромный лонгрид в лучших традициях нью-йоркерской расследовательской журналистики. В тексте поднимаются такие темы, как:

- история роста Тик-Тока и особенности его агрессивного маркетинга

- как Тик-Ток фактически подкупил правительство Индии, чтобы его там не запретили

- как приложение взаимодействует с инфлюэнсерами и музыкантами (вы ведь знаете, что песня "Old Town Road", побившая все рекорды по нахождению на первом месте в чартах, «взлетела» благодаря Тик-Току?)

- как оно влияет на музыкальную индустрию (молодые музыканты адаптируют треки под тик-токовский формат и по времени, и по настроению)

- как команда Тик-Тока манипулирует новостной повесткой, чтобы пользователи видели только позитив и им было приятно прокрастинировать в приложении

- как сервис сотрудничает с китайским государством и цензурирует антиправительственный контент про протесты в Гонгконге и геноцид уйгуров

- как во всём этом помогает искусственный интеллект и машинное обучение.

Показательны опасения автора материала: что, если огромный массив информации, собранный о сотнях миллионов американцев и европейцев, будет использован китайским правительством с каким-нибудь злым умыслом? Вопрос остаётся открытым.

newyorker.com/magazine/2019/09/30/how-tiktok-holds-our-attention

#тренд_мастрид #техно_мастрид
Список авторов сегодняшнего мастрида впечатляет: Генри Киссинджер (великий политик, экс-госсек США), Эрик Шмидт (экс-председатель совета директоров Google), Даниэль Хаттенлохер (декан MIT).

Тема тоже важная: дестабилизация мирового порядка, которую может принести развитие искусственного интеллекта, и необходимость адаптации к ней.

Это скорее не статья, а совместная декларация от политика, ИТ-предпринимателя и учёного с призывом обратить внимание на проблему. Неплохой экскурс в тему для тех, кто не очень глубоко в неё погружён: theatlantic.com/magazine/archive/2019/08/henry-kissinger-the-metamorphosis-ai/592771

Для тех, кто хочет почитать на эту тему больше, я в ближайшее время буду публиковать ещё мастриды и делать видео на тему. А пока что советую всем, кто пропустил, прочесть ультимативный ликбез от Wait But Why о том, почему риски, связанные с появлением сверхсильного искусственного интеллекта, вполне реальны для человечества: waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html (англ.), telegra.ph/Revolyuciya-iskusstvennogo-intellekta-na-puti-k-sverhrazumu-01-14 (рус.)

#тренд_мастрид #техно_мастрид
Теперь каждый может сам протестировать, насколько развился искусственный интеллект. Напишите короткую фразу на английском для новой программы GPT-2 и предложите нейросети продолжить текст за вас по ссылке: talktotransformer.com

Например, я написал фразу "I believe that more people in Russia should study the methods of rationality and read more long-reads from Western media and blogs". В ответ на это GPT-2 выдала мне следующее продолжение:

"For me it is not sufficient to read books about how to make a better life for yourself. It is necessary to try to use your imagination, to be creative, to invent new methods of thinking. I believe that many of our problems can be solved if you think in a rational and creative way. If you don't think in this way, you are likely to make an error.

The way of thinking that was taught in the Soviet Union was based on the Communist dogma, which was a system of dogmatism. It was based on the belief that the state must have its own way, that the leader must have absolute control, and that all the ideas must be accepted. The way of thinking was used for ideological purposes. It was used to create an atmosphere of fear and anxiety…"

Ничего себе, да? Многочисленные тесты показали: человек с высокой долей вероятностью не может отличить текст, написанный GPT-2, от написанного человеком.

GPT-2 – результат работы компании Open AI. Это НКО, созданная Илоном Маском, Сэмом Альтманом из Y Combinator, Питером Тилем (Palantir, PayPal) и другими успешными людьми, которые опасаются развития недружественного человеку ИИ и вложили больше миллиарда долларов в исследования в этой сфере.

Первые месяцы Open AI не выкладывала в открытый доступ GPT-2 из-за многочисленных рисков.

Во-первых, эта нейросеть легко пишет экстремистские тексты в духе радикального ислама, неонацизма и какой угодно другой идеологии (если предварительно «скормить» ей другие тексты в таком духе).

Во-вторых, она может использоваться для создания целых автоматически сгенерированных сайтов с fake news, которые при этом содержат ссылки-“пруфлинки” на другие сайты с автоматически сгенерированными фейковыми новостями, и так далее. Так можно внедрять в мир любые фейковые новости.

После долгих дебатов программу всё-таки выложили: решили, что плюсы от этого перевесят минусы. Вся эта история, конечно, пугает.

Почитайте пресс-релиз Open AI на тему, там описаны и риски, и разные другие мысли на этот счёт: openai.com/blog/gpt-2-1-5b-release

#тренд_мастрид #техно_мастрид
4 сценария того, как будут использоваться наши персональные данные в 2030 году: privacyinternational.org/es/node/3088.

Сегодня ИТ-компании собирают огромные массивы данных (big data) о своих пользователях и используют их для получения прибыли. Данные собираются самые разные: слова, которые мы гуглим, лайки в фейсбуке, динамика пульса на смарт-часах, последовательность генов из ДНК-теста, покупки на амазоне и выбор роликов на порнхабе.

Зачастую эти данные позволяют манипулировать человеком, либо их можно перепродать людям, которые используют данные в разных сомнительных целях. В общем, проблем много. Как с ними будут бороться в недалёком будущем, когда данных будет собираться ещё больше из всех сфер нашей жизни?

Сценарий 1. Данные – объект имущественных прав. Человек может продавать их, сдавать их в аренду, получать кредит под залог своих данных, пользоваться правами на свои будущие данные как на деривативы. Всё это помогает неплохо подработать. Либо можно отказаться от этого и не делиться данными ни с кем (идеально для криптоанархистов-параноиков).

Сценарий 2. По всему миру большинство людей работают «производителями данных» (data labourer) на полную ставку: каждый день ты собираешь о себе всю возможную информацию (в духе адептов Quantified Self – от истории просмотренных сайтов до анализов кала). Информация направляется всесильному искусственному интеллекту, который таким образом учится принимать более эффективные решения о будущем человечества. Информация собирается обо всех – даже если ты не устроился на работу производителем данных, окружающий тебя «интернет вещей» всё равно отслеживает каждый твой шаг.

Сценарий 3. Формируются «национальные фонды данных», собственность на данные – государственная. При этом государства могут делиться некоторыми данными с компаниями на благо национальной экономики. В итоге получается своего рода технокоммунизм.

Сценарий 4. Открытые протоколы и децентрализованные системы. Ты можешь выбрать продукт от крупной корпорации и согласиться на сбор твоих данных в обмен на скидку (и тогда твой «умный пылесос» будет отправлять данные о планировке твоей квартиры компании-производителю мебели), либо пользоваться только оупен-сорсными товарами и сохранять приватность (но за неё придётся платить).

Про каждый из сценарий в мастриде по ссылке есть подробный футуристический рассказ. Автор считает сценарий № 4 самым благоприятным, я тоже так думаю.

За ссылку на текст спасибо подписчикам из закрытого чата поддержавших канал на Патреоне, напоминаю, что присоединиться к ним можно здесь: patreon.com/mustreader

Русский перевод от @newochem: newochem.io/dannyh

#тренд_мастрид #криптоанархист_мастрид #техно_мастрид