Тем не менее каждый шаг к объяснению того, как работает ум, является и шагом к воссозданию возможностей ума в искусственном объекте — то есть к созданию ИИ.
Машины полезны настолько, насколько можно ожидать, что их действия достигнут наших целей.
Пожалуй, именно к этому нам все время следовало стремиться.
Люди разумны настолько, насколько можно ожидать, что наши действия приведут к достижению поставленных нами целей
Машины разумны настолько, насколько можно ожидать, что их действия приведут к достижению поставленных ими целей.
Поскольку машины
Огромным шагом вперед стало появление потенциала действия — разновидности электрической сигнализации, возникшей у одноклеточных организмов около 1 млрд лет назад.
во взаимосвязи того, что мы воспринимаем, чего хотим и что делаем.
заявил, что стандартная модель ИИ, в которой машины оптимизируют фиксированную цель, поставленную людьми, — это тупик.
Исключение предпосылки, что машины должны иметь определенные цели, означает, что мы должны будем изъять и заменить часть предпосылок ИИ — базовые определения того, что мы пытаемся создать. Это также предполагает перестройку значительной части суперструктуры — совокупности идей и методов по разработке ИИ.
Исключение предпосылки, что машины должны иметь определенные цели, означает, что мы должны будем изъять и заменить часть предпосылок ИИ — базовые определения того, что мы пытаемся создать. Это также предполагает перестройку значительной части суперструктуры — совокупности идей и методов по разработке ИИ.
Эти машины неизбежно будут не уверены в наших целях — в конце концов, мы сами в них не уверены, — но, оказывается, это свойство, а не ошибка (то есть хорошо, а не плохо). Неуверенность относительно целей предполагает, что машины неизбежно будут полагаться на людей: спрашивать разрешения, принимать исправления и позволять себя выключить.
