Илон Маск анонсировал гуманоидного робота, предназначенного для выполнения повторяющихся и скучных задач, которые люди ненавидят делать. Маск предположил, что робот может сбегать за вас в продуктовый магазин, но, по-видимому, он справится с любым количеством задач, связанных с ручным трудом.
Как и следовало ожидать, социальные сети наполнились ссылками на серию антиутопических научно-фантастических фильмов о роботах, где все идет ужасно неправильно.
Каким бы тревожным ни было будущее роботов в таких фильмах, как « Я — Робот» или «Терминатор» и других, именно технологии, лежащие в основе настоящих гуманоидных роботов, и их намерения должны вызывать беспокойство.
Робот Маска разрабатывает компания Tesla. Это кажущийся отход от автомобильного бизнеса компании, если не считать, что Tesla не является типичным производителем автомобилей. Так называемый Tesla Bot — это концепция изящного 125-фунтового человекоподобного робота, который будет включать в себя автомобильный искусственный интеллект и технологии автопилота Tesla для планирования маршрутов и следования по ним, навигации по трафику — в данном случае пешеходов — и избегания препятствий.
Если отбросить антиутопический научно-фантастический подтекст, план имеет смысл. Искусственная среда создана людьми для людей. И, как утверждал Маск при объявлении Tesla Bot, успешные передовые технологии должны научиться ориентироваться в этой среде так же, как это делают люди.
Тем не менее, автомобили и роботы Tesla — это всего лишь видимые продукты гораздо более широкого плана, нацеленного на создание будущего, в котором передовые технологии освобождают людей от наших биологических корней путем смешения биологии и технологий . Как исследователь, изучающий этическое и социально ответственное развитие и использование новых технологий , я считаю, что этот план вызывает опасения, которые выходят за рамки спекулятивных научно-фантастических страхов перед сверхумными роботами.
ЧЕЛОВЕК С БОЛЬШИМИ ПЛАНАМИ
Беспилотные автомобили , межпланетные ракеты и интерфейсы «мозг-машина» — это шаги к тому будущему, которое Маск представляет, в котором технологии станут спасителем человечества. В этом будущем энергия будет дешевой, изобильной и устойчивой ; люди будут работать в гармонии с умными машинами и даже сливаться с ними, и люди станут межпланетным видом .
Это будущее, которое, судя по различным начинаниям Маска, будет построено на наборе базовых взаимосвязанных технологий, которые включают датчики, исполнительные механизмы , инфраструктуру энергии и данных, системную интеграцию и существенный прогресс в области компьютерных мощностей. Вместе они составляют мощный набор инструментов для создания трансформирующих технологий.
Маск представляет, как люди, в конечном итоге, преодолевают наше эволюционное наследие с помощью технологий, выходящих за рамки человеческого или сверхчеловеческого . Но прежде чем технология сможет стать сверхчеловеческой, она сначала должна быть человеком — или, по крайней мере, быть спроектированной для процветания в мире, созданном людьми.
Этот подход к инновациям, основанный на человеческом подходе к технологиям, лежит в основе технологий в автомобилях Tesla, включая широкое использование оптических камер. При подключении к мозгу искусственного интеллекта они предназначены для того, чтобы помочь транспортным средствам автономно перемещаться по дорожным системам, которые, по словам Маска, « предназначены для биологических нейронных сетей с оптическими преобразователями » — другими словами, для людей. По словам Маска, это небольшой шаг от созданных людьми «роботов на колесах» до человекоподобных роботов на ногах.
ПРОЩЕ СКАЗАТЬ, ЧЕМ СДЕЛАТЬ
Технология «полного самоуправления» Tesla, которая включает в себя сомнительно работающий автопилот , является отправной точкой для разработчиков Tesla Bot. Как бы впечатляюще ни была эта технология, она оказалась менее чем полностью надежной. Аварии и несчастные случаи, связанные с режимом автопилота Tesla — последний из которых связан с алгоритмами, изо всех сил пытающимися распознать припаркованные машины экстренной помощи — ставят под сомнение целесообразность столь быстрого выпуска технологии в дикую природу.
Такой послужной список не сулит ничего хорошего человекоподобным роботам, использующим ту же технологию. Тем не менее, это не просто вопрос правильной технологии. Сбои автопилота Tesla усугубляются человеческим поведением . Например, некоторые водители Tesla относились к своим модернизированным автомобилям как к полностью автономным транспортным средствам и не уделяли должного внимания вождению. Может ли что-то подобное случиться с Tesla Bot?
«СИРОТСКИЕ РИСКИ» ДЛЯ TESLA BOT
В своей работе над социально-полезными технологическими инновациями меня особенно интересуют сиротские риски — риски , которые трудно измерить количественно и легко не заметить, но которые неизбежно приводят к сбиванию с толку новаторов. Мои коллеги и я работаем с предпринимателями и другими над решением этих проблем с помощью Risk Innovation Nexus , инициативы Института предпринимательства и инноваций им. Орина Эдсона Университета штата Аризона и Лаборатории глобального будущего .
Tesla Bot несет в себе целый портфель сиротских рисков. К ним относятся возможные угрозы конфиденциальности и автономности, когда бот собирает, делится и действует с потенциально конфиденциальной информацией; проблемы, связанные с тем, как люди могут думать о гуманоидных роботах и реагировать на них; потенциальные несоответствия между этическими или идеологическими взглядами — например, в борьбе с преступностью или в поддержании гражданских протестов; и более. Это проблемы, которые редко освещаются в обучении, которое получают инженеры, и тем не менее, игнорирование их может привести к катастрофе .
Хотя Tesla Bot может показаться безобидным — или даже немного шуткой — если он будет приносить пользу и быть коммерчески успешным, его разработчики, инвесторы, будущие потребители и другие должны задавать сложные вопросы о том, как он может угрожать тому, что важно. им и как ориентироваться в этих угрозах.
Эти угрозы могут быть столь же конкретными, как люди, вносящие несанкционированные модификации, повышающие производительность робота — например, заставляя его двигаться быстрее, чем предполагали разработчики, — не задумываясь о рисках, или столь же общими, как технологии, которые превращаются в оружие новыми способами.
Кроме того, существуют проблемы технологической предвзятости, которая преследовала ИИ в течение некоторого времени , особенно когда это приводит к усвоенному поведению, которое оказывается в высшей степени дискриминационным. Например, алгоритмы ИИ привели к сексистским и расистским результатам.
ПРОСТО ПОТОМУ, ЧТО МЫ МОЖЕМ, НЕ ТАК ЛИ?
Tesla Bot может показаться маленьким шагом к видению Маска сверхчеловеческих технологий, и его легко списать со счетов как нечто большее, чем высокомерное зрелище . Но лежащие в его основе смелые планы серьезны — и они вызывают не менее серьезные вопросы.
Например, насколько ответственным является видение Маска? Кто может сказать, что он должен делать это только потому, что он может работать над созданием будущего своей мечты? Является ли будущее, которое Маск стремится обеспечить, лучшим для человечества или даже хорошим? И кто пострадает от последствий, если что-то пойдет не так?
Это более глубокие опасения, которые вызывает у меня Tesla Bot, как у человека, который изучает и пишет о будущем и о том, как наши действия влияют на него . Это не означает, что Tesla Bot — плохая идея или что Илон Маск не должен иметь возможность поиграть своими мышцами, выстраивая будущее. При правильном использовании это преобразующие идеи и технологии, которые могут открыть многообещающее будущее для миллиардов людей.
Но если потребители, инвесторы и другие люди будут ослеплены блеском новых технологий или пренебрегают шумихой и не видят более широкой картины, общество рискует передать будущее богатым новаторам, чье видение выходит за рамки их понимания. Если их видение будущего не согласуется с тем, к чему стремится большинство людей, или если они катастрофически ошибочны, они рискуют встать на пути построения справедливого и равноправного будущего.
Может быть, это непреходящий урок из антиутопических робот-футуристических научно-фантастических фильмов, который люди должны усвоить по мере того, как Tesla Bot движется от идеи к реальности — не более очевидные проблемы создания гуманоидных роботов, которые выходят из-под контроля, а гораздо более серьезные проблемы — решать, кто будет представлять будущее и участвовать в его построении.
Будьте в курсе в удобном формате, присоединяйтесь: TG-канал и ВК