Глава Microsoft сформулировал принципы для разработчиков систем искусственного интеллекта
На прошлой неделе исследователи из Google опубликовали научную статью, в которой изложены пять ключевых задач для роботов. В свою очередь Сатья Наделла, генеральный директор Microsoft, для сетевого издания slate.com подготовил статью, в которой рассказал о шести принципах и целей для искусственного интеллекта. Следуя им, можно привнести больший уровень безопасности для человечества и производственных процессов.
Шесть принципов Сатьи Наделлы
- Системы искусственного интеллекта необходимо разрабатывать для помощи человечеству. Машины, которые работают рядом с людьми, должны выполнять опасную работу, например, в горном деле, но при этому уважать самостоятельность человека.
- Системы искусственного интеллекта должны быть понятными. Мы желаем иметь не просто «умные» машины, но и вразумительные машины. Люди должны понимать, как технологии видят и анализируют наш мир.
- Искусственный интеллект должен обеспечивать максимальную эффективность процессов и не разрушать достоинства человека. Индустрия высоких технологий не должна диктовать ценности и добродетели будущего.
- ИИ должен обеспечивать интеллектуальную конфиденциальность, защиту личной и групповой информации.
- Результат работы систем искусственного интеллекта должен быть прозрачен, чтобы специалисты могли устроить последствия непреднамеренного вреда.
- Искусственный интеллект должен быть непредвзятым. Дискриминация людей недопустима.
Цели, описываемые Наделла – это не прямой аналог трех законов Айзека Азимова, американского писателя-фантаста русского происхождения, популяризатора науки, биохимика.
Законы Азимова гласят:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Правило, которое обязывает подчиняться человеку, не всегда требуется, ведь сейчас искусственный интеллект и некоторые машины имеют возможности самообучения. Правила Наделлы – это раскрытие социального воздействия робототехники на общество. В отличии от Наделлы, Азимов формулировал свои законы как писатель-фантаст, что лишало его законы определенности.
Источник фото: peoples.ru
Назад