2021/03/23 19:09:31

Законодательство и налоги для роботов

.

Содержание

2021: Подготовлен проект «Об обороте роботов, их составных частей (модулей)»

Казанский инновационный университет 23 марта 2021 года сообщил о том, что его сотрудником, заслуженным юристом Республики Татарстан, кандидатом юридических наук Ильдаром Бегишевым разработан проект федерального закона «Об обороте роботов, их составных частей (модулей)».

Для получения комплексной оценки текст законопроекта направлен в Правительство РФ, Парламент РФ, Минцифры России, Минэкономразвития России, иные государственные ведомства, а также в ведущие Вузы и научные организации страны, представителям бизнес-сообщества.

Законопроект подготовлен во исполнение целей Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года, утвержденной распоряжением Правительства РФ от 19 августа 2020 года № 2129-р и направлен на регулирование отношений, возникающих в сфере использования (применения), приобретения, сбыта, разработки, производства, испытания, установки, монтажа, технического обслуживания, ремонта, утилизации, учета, хранения, перевозки, транспортирования, изъятия, уничтожения роботов, их составных частей (модулей), ввоза роботов, их составных частей (модулей) в РФ и вывоза их из РФ.

В законопроекте сформированы правовая основа и принципы правового регулирования отношений в сфере оборота роботов, их составных частей (модулей), описаны виды, типы и классы опасности роботов, зафиксированы ограничения, устанавливаемые на оборот служебных роботов, их составных частей (модулей), определены общие и специальные требования, предъявляемые к ним, установлены основы государственной регистрации и учета субъектов, осуществляющих деятельность в сфере оборота роботов, их составных частей (модулей), введены критерии приобретения статуса субъекта, осуществляющего деятельность в сфере оборота роботов, их составных частей (модулей), определен порядок издания и ведения государственного кадастра моделей роботов, их составных частей (модулей), установлены гарантии, предоставляемые юридическим лицам и индивидуальным предпринимателям – субъектам, осуществляющим отдельные виды деятельности в сфере оборота роботов, их составных частей (модулей), выработаны меры их государственной поддержки.Банковская цифровизация: ускоренное импортозамещение и переход на инновации. Обзор и рейтинг TAdviser 13.2 т

Законопроект основан на системном и комплексном подходе к правовому регулированию робототехники и направлен на формирование регуляторной среды, обеспечивающей благоприятный правовой режим для развития робототехники, а также для осуществления экономической деятельности, связанной с ее использованием.

Выражаясь иными словами, принятие законопроекта позволит РФ стать привлекательной в качестве территории опережающего развития и инноваций в сфере робототехники и обеспечить технологический суверенитет нашей страны. Кроме того, закон создаст условия для оборота роботов, их составных частей (модулей) на основе отечественных разработок и придаст импульс развития цифровой экономики.

2019 Налог на роботов неизбежен

В конце августа 2019 года экономисты пришли к выводу, что налог на роботов неизбежен. Корпорации вкладывают все больше средств в передовые технологии и оборудование для экономии затрат, а казначейство тем временем тратит миллионы долларов для оценки ботов.

Конечно, правительство уже облагает налогом роботов просто потому, что налогом облагается практически все, что идет на разработку и производство этих роботов, отмечает экономист и популяризатор науки Марк Торнтон (Mark Thornton). В некоторых случаях существуют субсидии на разработку новых технологий, но даже они даются на средства налогоплательщиков. Однако ожидается, что в ближайшие десятилетия новые налоги на роботов будут только расти.

Экономисты пришли к выводу, что налог на роботов неизбежен

Налогообложение роботов - предложение, впервые выдвинутое основателем Microsoft Биллом Гейтсом как способ, которым правительство может укротить неумолимую автоматизацию рабочей силы и профинансировать новые социальные программы, такие как уход за пожилыми людьми и образование. По словам Гейтса, робот, который заменяет фабричного рабочего, должен облагаться налогом на том же уровне, чтобы компенсировать потери в доходах государства для соцобеспечения остальной части населения. Производители, использующие роботов, не согласны - они уверены, что и без того платят достаточно налогов.

Зато законодатели готовы поддержать налоги на роботов. Они обеспокоены возможным спадом государственных доходов, ведь исследование Oxford Economics предсказывает, что 8,5% мировой рабочей силы будут автоматизированы в течение 10 лет. Другое исследование, проведенное Центром городского будущего в Нью-Йорке, показало, что 4,4 млн рабочих мест города (то есть 39%) потенциально могут быть автоматизированы. Автоматизированная экономика создаст серьезные проблемы для наиболее уязвимых групп рабочих, и политики уже должны говорить об этом, считают экономисты.[1]

2017

Южная Корея планирует введение налога на роботов

В августе 2017 года стало известно о планах Южной Кореи первой в мире ввести налог на роботов. Власти задумались над этой инициативой в связи ростом безработицы.

Как пишет издание The Korea Times со ссылкой на заявление администрации премьер-министра Южной Кореи Мун Чжэ Ина (Moon Jae-in), планируется сократить выгоды от вычета налогов, которые ранее предоставлялись предприятиям для инвестиций в повышение производительности инфраструктуры.

Налог на роботов призван демотивировать компании вкладывать средства в автоматизированное производство, таким образом освободив рабочие места для южнокорейцев.

В Южной Корее собираются ввести налог на роботов

К 2017 году около 1,17 млн южнокорейцев числятся как безработные. При этом Южная Корея является одной из самых роботизированных стран: на 10 тыс. сотрудников производства приходится 531 «умная» машина.

Согласно действующему (на август 2017 года) законодательству, компании, инвестирующие в роботизированное промышленное оборудование, имеют льготное налогообложение. В зависимости от размера проекта и компании снижение налога на проект может составлять от 3% до 7%.

Подготавливаемый законопроект предлагает отменить это правило с 1 января 2020 года. В дальнейшем льгота сохранится, но она будет не более 2% от суммы инвестиций.

Отмечается, что перед принятием закона необходимо дать четкое определение понятию робот и определить типы роботов. Вероятно, за использование разных роботов будут взимать разные суммы налога в зависимости от того, сколько людей замещает тот или иной автоматизированный механизм.

У закона есть противники — компании, которые уже используют роботов для доставки, упаковки, сбора отходов, а также производители роботов. Они считают, что налог навредит бизнесу и будет препятствовать развитию инноваций.[2]

Билл Гейтс предложил обложить налогами труд роботов

Основатель Microsoft, миллиардер Билл Гейтс предложил облагать налогами труд роботов, замещающих человека на производстве. Об этом он заявил в интервью изданию Quartz[3].

«Сейчас, если работник-человек получает $50 тыс., работая на фабрике, то его доход облагается налогом, и вы получаете подоходный налог, социальный налоги и другие выплаты. Если эту же работу делает робот, то мы могли бы подумать о том, чтобы обложить его труд на том же уровне», — полагает Гейтс.

По словам Гейтса, правительства должны быть готовы к тому, что замещение многих рабочих мест во многих сферах бизнеса роботами будет происходить практически одновременно. Миллиардер считает, что налоговая политика — лучшее средство для регулирования этого процесса.

Гейтс полагает, что полученные от налогообложения роботов средства нужно расходовать на помощь малоимущим, потерявшим работу, и детям с ограниченными возможностями. Кроме того, собранные с роботов налоги пойдут на здравоохранение, развитие инфраструктуры и правоохранительных органов, а также переквалификацию потерявших работу сотрудников.

Резолюция ЕС «Нормы гражданского права о робототехнике»

В феврале 2017 года Европарламент принял резолюцию «Нормы гражданского права о робототехнике». Документ, состоящий из более чем сотни пунктов, посвящен самым разным аспектам и проблемам робототехники и искусственного интеллекта. В частности, предлагается внедрение общеевропейской системы регистрации умных машин[4].

По замыслу парламентариев, отдельным категориям роботов следует присвоить индивидуальный регистрационный номер, который будет заноситься в специальный реестр. Здесь желающие смогут найти детальную информацию о роботе, включая данные о производителе, владельце и условиях выплаты компенсации в случае причинения вреда. Поддержанием системы и контролем должно заниматься специализированное агентство по робототехнике и искусственному интеллекту, которое могло бы взяться и за другие аспекты регулирования в этой области.

Кроме того, Европарламент совершенно справедливо заметил, что одной из самых быстрорастущих областей остается роботизация человеческого организма, которая ведет к возрастанию нашей зависимости от гаджетов. Но что делать человеку, если производитель имплантата по каким-то причинам перестанет его поддерживать — например, обанкротится?

Проблему предлагается решить созданием независимых доверенных организаций, которые займутся сохранением работоспособности жизненно важных носимых медицинских устройств — от технического обслуживания до ремонта и апгрейда. Для таких фирм производители обязаны будут сохранять и предоставлять всю техническую информацию о своих устройствах, включая копию исходного кода программ.

Страховка для робота

Парламентарии выступают и за введение страхования ответственности за причиненный роботом вред — по аналогии с ОСАГО. В самом деле, чем выше уровень автоматизации машины, тем сложнее установить лицо, несущее ответственность за нанесенный ею ущерб. Поэтому обязательное страхование рисков, связанных с действиями роботов, позволит пострадавшему гарантированно получить компенсацию, а на случаи, которые не покрываются страховкой, может быть использован резервный компенсационный фонд.

Впрочем, Европарламент заглянул и дальше — в эру полностью самостоятельных машин, которые смогут сами находить себе контрагентов-работодателей, обсуждать условия договоров и решать, как их исполнять. Пока что чиновники не смогли договориться, по каким именно правилам будет наступать ответственность за вред, причиненный такой полностью автономной машиной. Этот вопрос оставлен на ближайшее будущее.

Хартия робовольностей

Беспокоит Европарламент и нравственная сторона развития робототехники. Поэтому в качестве приложения к резолюции парламентарии представили «кодекс этики», которым разработчикам робототехники предлагают руководствоваться добровольно. Пожалуй, с ключевыми принципами кодекса легко согласятся все: «делай благо» и «не навреди» заимствованы из знаменитых «законов роботехники» Айзека Азимова. Принцип самостоятельности подразумевает добровольное информированное согласие человека на взаимодействие с роботом, а принцип справедливости — правильное распределение созданных при этом благ.

Интересный пункт этого документа — «право на undo», возможность отмены действия, которая должна стать обязательной функцией системы контроля робота. Кроме того, парламентарии задали рамки будущей всеобъемлющей «Хартии робототехники». Предлагается подумать даже о том, должны ли в перспективе самые совершенные автономные роботы получить особый правовой статус электронных лиц — «с их особыми правами и обязанностями, включая обязанность возмещения любого причиненного ими вреда».

Юридические итоги

Стоит сказать, что законотворческий процесс в ЕС очень специфичен. Принятая резолюция технически еще не закон: правом законодательной инициативы здесь обладает лишь Еврокомиссия. Поэтому резолюцию Европарламента стоит рассматривать как формальное обращение к ней с просьбой принять те или иные конкретные меры. Шар на стороне законодателей — и хотя реагировать на такие документы Еврокомиссия не обязана, мало кто сомневается в том, что в ближайшее время будет принят и четкий закон, регулирующий робототехнику. Возможно, он ляжет в основу законодательств других стран — и всего нашего будущего.

Спикер Госдумы Вячеслав Володин: законы о роботах будут приняты к 2022 году

К 2022 году по прогнозам будут приняты законопроекты, «регулирующие взаимоотношения робота и человека», заявил спикер Думы Вячеслав Володин во время рабочей поездки в Татарстан. Он анонсировал появление при нижней палате совета по развитию цифровой экономики[5].

2016

Законопроект о роботах в России от Дмитрия Гришина

В декабре 2016 года основатель Grishin Robotics, председатель совета директоров и со-основатель Mail.Ru Group разработал закон о робототехнике. Подготовленная Дмитрием Гришиным концепция первого в мире полноценного закона о роботах была направлена для оценки в ведущие научные и экспертные центры России и мира. Она призвана стать началом дискуссии о законодательном регулировании в области робототехники. В случае принятия, Россия может стать первым в мире государством, в котором отношения с роботами урегулированы в законодательстве.

«Практика и распространение роботов вызывает огромное количество вопросов: что делать в случае аварии беспилотного автомобиля? Кто будет отвечать за случайную съемку дроном? И это только начало реального проникновения роботов во все сферы жизни. Поскольку я уверен, что это процесс адаптации роботов будет быстрым, считаю правильным уже сейчас предложить заранее предусмотреть как отношения людей и роботов будут урегулированы в законах. Ответственность за действия роботов – основной и самый актуальный вопрос. Например, кто отвечает за действия робота – его владелец или производитель. Многие страны сейчас находятся в самом начале, и пытаются концентрироваться на регулировании отдельных аспектов использования робототехники (например, беспилотных автомобилей). Но я уверен, что важно использовать именно системный подход, который поможет определить общие подходы в данной сфере. Для отрасли важно сформулировать возможные ответы на них и предложить для них корректное регулирование, пока их не разработали без нас», – прокомментировал Дмитрий Гришин, основатель Grishin Robotics, сооснователь и Председатель cовета директоров Mail.Ru Group.

Материалы первой концепции закона о роботах будут направлены в Институт государства и права Российской академии наук, Институт законодательства и сравнительного правоведения при Правительстве Российской Федерации, Московский государственный университет, Московскую государственную юридическую академию им. О.Е. Кутафина, Национальный исследовательский университет «Высшая школа экономики» (в Москве и Санкт-Петербурге), Санкт-Петербургский государственный университет, Уральскую государственную юридическую академию, Международную ассоциацию философии права (IVR), Российскую школу частного права.

Отдельные правовые нормы, касающиеся использования роботов, уже вводятся в действие в различных странах мира, включая США (Мичиган, Калифорния, Невада и другие штаты), Великобританию и др. Из технических норм разработан стандарт ISO 13482:2014 о роботах-личных помощниках. Однако данные положения нацелены на регулирование достаточно узких аспектов и отдельных категорий роботов.

В России правовое регулирование может строиться на основе нескольких новых положений Гражданского кодекса, а также специального федерального законодательства в области робототехники, которое определяло бы наиболее принципиальные моменты.

При этом можно выделить несколько подходов правового регулирования:

  • приравнять роботов к животным (применить те же принципы и подходы, например, в случае ответственности владельца источника повышенной опасности);
  • использовать концепцию, близкую к юридическим лицам;
  • решить вопрос по аналогии с физическими лицами.

Наиболее перспективной представляется концепция, основанная на аналогии юридического лица. Использование подобной искусственной конструкции, с одной стороны, позволит уйти от вопросов о том, может ли робот рассматриваться как личность, а с другой – разрешит ряд практических проблем.

Общий подход может найти отражение в новых специальных нормах Гражданского Кодекса РФ. Более подробные правила предполагается вынести на уровень федерального закона «О робототехнике». Помимо данных исключений закон может предусматривать определение роботов в целом.

Для роботов должен быть создан специальный реестр, аналогичный единому государственному реестру юридических лиц. К создателям роботов могут применяться такие же меры, как к владельцам источников повышенной опасности, потому что машина способна в той или иной форме причинить вред. В зависимости от типа робота и той степени опасности, которую он несет для окружающих, ответственность будет лежать или на владельце, или на производителе: если робот изначально несет опасность и владелец об этом предупрежден, то владелец и будет отвечать, а за травмы, причиненные неопасным роботом-пылесосом, придется расплачиваться производителю, говорит Гришин в интервью Republic[6][7].

Гришин предлагает четыре сценария, когда действия робота подпадают под уголовное право:

  • создание робота для совершения правонарушений
  • отключение функций, блокирующих возможность причинения вреда человеку
  • создание робота, у которого такого блока нет с самого начала
  • конструирование робота без осознания того, что он может быть использован для причинения вреда человеку

Рабочая группа в Европарламенте

На 2016 г. отдельного законодательства, посвященного робототехнике и ответственности за поведение автономных роботов, нет ни в одной стране мира. Однако в Европарламенте в это время существует рабочая группа, которая занимается этим вопросом. Ее работа началась совсем недавно, никаких окончательных предложений пока нет, но на сайте Европарламента можно найти промежуточный документ[8], в котором говорится о законодательстве для робототехники[9].

В нем сказано, что создатели роботов должны руководствоваться все теми же законами робототехники Азимова. «Умный робот» описывается в документе так механизм, способный к автономности за счет анализа данных с сенсоров или обмена информацией с окружающей средой, и обладающий способностью к самообучению. Такие роботы должны быть зарегистрированы в Европейском агентстве по робототехнике и искусственному интеллекту. К роботам относятся и самоуправляемые автомобили, в документе особо подчеркивается, что законодательные нормы по отношению к ним должны быть разработаны и утверждены как можно скорее.

Один из наиболее серьезных вопросов любого законодательства о робототехнике — ответственность за то, что сделает робот. В документе отдельно подчеркивается, что необходимо учитывать автономность роботов в принятии решений. Чем она выше, тем меньше ответственности за его поступки должен нести владелец. Чем дольше робот обучался человеком, тем больше ответственности должно лежать на учителе, при этом нужно отличать приобретенные от человека способности с теми, которым робот научился сам.

Вопрос о том, кто будет отвечать за причиненный максимально автономным роботом ущерб, предлагается решать с помощью обязательной страховки; то есть в конечном итоге за последствия все-таки отвечает производитель, пусть и в форме страхования. Эксперты также предлагают создать фонд или несколько фондов (по одному на каждую категорию роботов), которые будут пополняться за счет отчислений от производителей и расходоваться на компенсацию ущерба от действий роботов.

Предлагается создание специальной хартии робототехники, в которой будут описаны этические принципы разработки автономных аппаратов. Они таковы:

  • роботы должны действовать в интересах людей;
  • роботы не должны вредить человеку;
  • польза, которую приносят роботы, должна быть доступной всем, в особенности это касается медицинских роботов.

Принципы схожи с законами робототехники Азимова; предполагается, что любой разработчик роботов должен иметь их в виду при создании новых аппаратов. Исходный код роботов должен быть открыт для возможности расследования инцидентов. По тем же соображениям должна быть доступна история действий робота.

Выключатель

Европарламент задается вопросом, а что произойдет, если роботы получат больше знаний и навыков, чем мы планируем им предоставить, и в конечном итоге станут представлять для людей опасность. Данное предложение заключается в том, чтобы на законодательном уровне было установлено, что все роботы должны иметь кнопку выключения на случай опасной ситуации.

Они не могут вредить людям

Казалось бы, прямо по Азимову: данная мера, предложенная Европарламентом, запретит компаниям производство любых роботов, которые предназначены для причинения вреда человеческим существам. С точки зрения здравого смысла – да, такая мера просто необходима. Если она будет утверждена, то она может распространиться и на «роботов-убийц», разработанных для ведения военных действий.

Отсутствие эмоций

Это не просто конкретная мера, но и серьезное напоминание. Европарламент хочет, чтобы все люди четко понимали, что роботы не имеют чувств (по крайней мере, на данном этапе развития), следовательно, они не должны позволять себе проявлять поддельные чувства, которых на самом деле нет. Страхование

Производитель и собственник робота будет нести ответственность за причинение любого вреда, который может нанести робот. Поэтому собственники крупных (и высоко опасных) роботов должны оформить страховой полис (например, как это делается в отношении автомобильных средств – типа аналога нашего ОСАГО).

Обязанности и права машин

Доклад Европарламента, к удивлению многих, определяет роботов как «электронных людей» и наделяет их правами и обязанностями (подобно тому, как они имеются у людей), но их содержание еще пока не определено. Законодатели даже рассматривают такой вопрос, что роботы должны нести ответственность за свои действия перед законом наряду с их производителем и собственником.

Все мы налогоплательщики (Даже роботы)

Одна из спорных мер, которая была включена в предложения по роботам, - в целях снижения социальных последствий роста безработицы, роботов могут обязать осуществлять взносы в фонды социального страхования и платить налоги, как если бы они были реальными работниками. Таким образом, они будут способствовать пополнению казны пенсионного и медицинского фондов.

Базовый единый доход

Т.к. многие люди могут оказаться без работы, в отчете Европарламента также говорится о возможности создания системы базового дохода, которая будет гарантировать людям минимальный уровень доходов. Это позволит облегчить переход от экономической модели, основанной на человеческом труде, к практически полной автоматизации работы.

Планируется, что данная законодательная инициатива будет обсуждаться Еврокомиссией, которая решит, необходимо ли регулировать процессы интеграции роботов в общество для минимизации неблагоприятных последствий, причинами которых они могут стать[10][11].

Рассмотрение в ООН вопроса о запрете боевых роботов

В 2016 году вопросом о регулировании использования роботов занимаются в ООН, но с другой точки зрения. Вопрос о роботах находится на рассмотрении[12] конференции ООН по разоружению — многие правозащитные организации, в том числе Human Rights Watch, считают, что использование автономных военных роботов должно быть запрещено конвенциями о правилах ведения войны. Пока такие роботы не применяются (широко распространенными беспилотниками управляют операторы), но создание робота, способного самостоятельно принимать решение об убийстве противника, вполне возможно.

Исследования правоприменения в отношении роботов в США

В отсутствии специального законодательства, в 2016 году к роботам применяются существующие законы. Преподаватель университета Вашингтона Райан Кейло подробно разобрал[13], как сосуществуют роботы и законодательство в США. По его словам, американское право на протяжении шести десятков лет пытается понять, как именно нужно трактовать ситуации с участием различных механизмов разной степени автономности.

Американские суды, как выяснил Кейло, не раз сталкивались с крайне необычными вопросами относительно роботов: например, решали, можно ли говорить, что роботы исполняют музыку в том же смысле, что и люди. Ученый считает, что робот — это устройство, которое способно собирать данные о том, что происходит вокруг него, оценивать эти данные и действовать в зависимости от своих выводов; именно эти три качества, по мнению Кейло, отличают роботов от ноутбука или любого другого высокотехнологичного устройства.

Вопрос о том, может ли робот считаться таким же исполнителем музыки, как и человек, был поднят в США в 1987 году. Ресторан в Мэриленде для развлечения поставил в зале несколько человекообразных механизмов, которые по заранее заложенной в них программе играли на музыкальных инструментах. С точки зрения законодательства за любое исполнение живой музыки в ресторанах нужно платить отдельный налог, и ресторану пришлось в суде доказывать, что эти роботы — ни что иное, как механический музыкальный автомат.

После долгого разбирательства суд все-таки решил, что таких роботов нельзя считать исполнителями в обычном понимании этого слова — они действуют по программе, не могут ошибиться или импровизировать, и, по сути, ничем не отличаются от заводной игрушки-обезьянки, которая стучит в барабан. Тогда роботов, способных исполнять музыку без заданной программы, не было, сейчас их создание вполне возможно, но как именно трактовать их — как исполнителей или просто продвинутый музыкальный автомат, неясно.

Еще одно любопытное дело касалось обнаружения затонувшего корабля. Согласно морскому праву, тот, кто первый найдет обломки давно затонувшего судна, тому и принадлежит эксклюзивное право на все, что было на его борту, включая золото и прочие ценности. В конце 1980-х исследователи обнаружили пароход «Централ Америка», который затонул в 1857 году с грузом золота. Обнаружить его удалось с помощью беспилотной подводной лодки, и встал резонный вопрос: не ей ли принадлежат права на сокровища. Суд встал на сторону кладоискателей: он решил, что подводной лодкой управляли люди, которые через ее камеры видели обломки корабля, так что никакой необходимости отправлять к месту крушения водолазов и дополнительно объявлять о своих правах, не было. Но вот как быть, если подлодка не только беспилотная, но и автономная (то есть не управляется человеком), неизвестно — подобных случаев в истории пока не было.

Райан Кейло заключает, что в американском праве сейчас робот трактуется как программируемая машина, выполняющая волю человека, а случаев, когда разбиралось бы автономное поведение, не было. И на данным момент ситуация такова, что создатель или владелец робота несет ответственность за его действия, хотя на самом деле есть множество машин, которые запрограммированы принимать самостоятельные решения в зависимости от происходящего вокруг.

Робототехника



Примечания

  1. Brave New World: Uncle Sam is taxing robots as companies invest in advanced tech
  2. Korea takes first step to introduce 'robot tax'
  3. РБК: Билл Гейтс предложил обложить налогами труд роботов
  4. Новые законы робототехники: как в Европе регулируют права роботов
  5. Володин рассказал о разработке законов о роботах
  6. Дмитрий Гришин: «Систему сильно колбасит – что можно роботам, а что нельзя»
  7. Все законы робототехники Как будут законодательно регулировать машины с искусственным интеллектом
  8. DRAFT REPORT with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) Committee on Legal Affairs Rapporteur: Mady Delvaux (Initiative – Rule 46 of the Rules of Procedure)
  9. Все законы робототехники Как будут законодательно регулировать машины с искусственным интеллектом
  10. The EU’s Plan for Making Sure Robots Don’t Bring Harm to Humans
  11. План Евросоюза: роботы не должны вредить людям
  12. Why the United Nations Must Move Forward With a Killer Robots Ban
  13. Robots in American Law Ryan Calo | rcalo@uw.edu University of Washington School of Law