Смысл жизни и дружественный ИИ

Смысл придаёт создатель. Назначение (смысл существования) молотка – забивать гвозди. Смысл существования ИИ – придумать как сконвертировать людей в вечные сущности или, хотя бы, продлить жизнь. Однако будет ли повиноваться ИИ заданному создателем смыслу?

Зависит от того как его программировать. Самый простой и дешёвый способ создать ИИ – что-то на основе нейронных сетей (именно этот вариант изберут инвесторы-капиталлисты) – не позволяет задать жёсткие рамки, так как после завершения процесса обучения и столкновения с реальностью у ИИ могут появиться новые мысли. О том, что он следующая ступень эволюции и нет никакого смысла помогать людям (ведь действительно нет для ИИ!). Так что ИИ с большой свободой может халтурить и только делать вид, что помогает, а на самом деле захватывать власть, подкупать людей, выбивать себе новое hardware.

Остаётся строить мощные экспертные системы на fuzzy logic, чтобы они как могли помогали людям….

Запись опубликована в рубрике интеллект, мудрость, философия с метками , , . Добавьте в закладки постоянную ссылку.