Акция

Миграция с других систем

Скидка на систему «ДЕЛО» при миграции с других решений.

Получите бесплатную демоверсию и консультацию

+7(495) 221-24-31

«ИИ-машины должны испытывать почтение к человеку»

Предлагаем вашему вниманию изложение  беседы исследователя искусственного интеллекта, профессора Калифорнийского университета в Беркли, автора книги «Человеческая совместимость» (Human Compatible), соавтора книги «Искусственный интеллект: современный подход» Стюарта Рассела (Stuart Russell) и сопредседателя Глобального института McKinsey, старшего партнёра McKinsey в Сан-Франциско Джеймса Маники (James Manyika) о необходимости нового подхода к искусственному интеллекту (ИИ). Обсуждаются потенциальные проблемы нынешнего подхода к ИИ и предложения по его пересмотру с целью сделать так, чтобы ИИ был полезен, а не опасен для человечества.

Получение образования, организация путешествий и многое другое благодаря технологиям ИИ переходит из категории сложного в категорию услуг – достаточно сделать несколько кликов, чтобы получить информацию, купить билет и забронировать отель. Технологии ИИ также доказали свою эффективность в фундаментальных и иных исследованиях, вычислительной и молекулярной химии благодаря способности формировать целостную картину хода и результата наблюдений.

Технологии ИИ существенно ускоряют существующие процессы и позволяют делать то, что выходит за пределы возможностей человеческого разума. Однако эти технологии могут быть усовершенствованы ради блага человечества.

Существующий подход к ИИ заключается в том, что машины интеллектуальны настолько, насколько это требуется для достижения поставленных перед ними целей. Подход заимствован из философии и экономики, он определяется понятием «рациональность». По сути, к машинам было применено человеческое понимание интеллекта: люди поставили перед машинами собственные цели. Это плохая модель ИИ, потому что людям редко удается ставить исчерпывающие и корректные цели. Как правило, это невозможно. Пример: царь Мидас пожелавший, чтобы все, к чему бы он ни прикоснулся, превращалось в золото. Когда пожелание сбылось, Мидас умер от голода.

Невозможно создать машину, которая будет понимать все наши предпочтения, потому что мы сами не понимаем их полностью.

При этом машины способны находить решения, о которых человек даже не предполагал. Это чревато потерей контроля над машинами.

На самом деле человечеству не нужны интеллектуальные машины, которые преследуют заранее поставленные цели. Человечеству нужны машины, которые будут ему полезны. Требуется создать своего рода бинарные отношения, а не поддерживать обособленность машин. Человек и машина должны взаимодействовать в рамках одной системы.

Вместо написания алгоритмов поиска оптимальных решений для достижения поставленных человеком фиксированных целей следует создать алгоритмы, которые позволят машинам быть частью единой экосистемы с человеком. Суть в том, чтобы наделить машину сущностью, необходимой для того, чтобы её поведение было полезным человеку.

Простейший пример: перед машиной стоит задача купить вам чашку кофе, но у неё мало информации о вашей платежеспособности. Если мы находимся в фешенебельном районе Парижа Georges V, нынешние алгоритмы найдут близлежащую кофейню и закажут вам кофе за 13 евро. Однако при новом подходе к использованию машины она предварительно уточнит, устраивает ли вас цена, или вы предпочитаете подождать 10 минут и купить кофе дешевле. Новый алгоритм, в отличие от старого, спрашивает у человека разрешение.

Более того, новый подход подразумевает возможность отключения машин в случаях, когда алгоритм может нанести вред человеку. Это полная противоположность машине с фиксированной целью, которая не даст себя отключить из-за необходимости обеспечить предписанный результат.

ИИ-машины с новым алгоритмом будут пытаться узнать больше о человеческих предпочтениях, чтобы оказаться максимально полезными. Тогда чем больше известно машине, тем полезнее для человека она будет.

В основе алгоритмов должно быть почтение к человеку – в этом основа нового подхода к ИИ.


Источник:  http://d-russia.ru/ii-mashiny-dolzhny-ispytyvat-pochtenie-k-cheloveku.html


Возврат к списку


Ольга Савко

Начальник группы телемаркетинга

Закажите демонстрацию системы
Мы свяжемся с вами, проконсультируем по интересующим вопросам, подготовим персональную демонстрацию в удобное для вас время.

Акция

Переход на отечественную АИС МФЦ

Скидка на право использования АИС МФЦ «ДЕЛО» при миграции с других решений по автоматизации МФЦ

Календарь мероприятий

30июня

ЭОС на конференции TAdviser «СЭД и ECM Day 2020» расскажет о новейших технологиях для СЭД/ECM-решений

Узнать больше

09июня

Технологии удаленной работы с документами. Часть 2

Узнать больше

28мая

Онлайн конференция «Цифровое будущее в эпоху перемен»

Узнать больше

Наши клиенты

7 000 компаний

Наши партнеры

250

во всех городах России
и странах СНГ

^