Созданные для предотвращения убийств людей самообучающиеся птицы-роботы очень быстро начинают считать убийством любое насилие против любого живого существа от человека до растений.
Необычно, в первый раз слышу такой формат. Как всегда, люди сами сделали себе кучу проблем на ...... всë. Открытый финал добавляет немного постапокалиптичного настроения.
Все комментаторы, конечно, молодцы. Талант Шекли бесспорен. Но посмотрите сечйас ситуацию с дронами! ИИ в деле, и Шекли недалек от истины. Что печально...
Когда технический прогресс помогает людям решать материальные и технологические проблемы - это прекрасно.
Но когда человечество бездушной машине предоставляет определять, что есть добро и что есть зло, оно идёт к расчеловечиванию и нравственной деградации.
В рассказе Шекли руководство полиции в стремлении к быстроте и эффективности правосудия передало функции определения преступления и наказания за него самообучающимся машинам. Машины в процессе самообучения в определении деяния убийство дошли до абсурда, убивая людей, которые косили траву или, например, ловили рыбу.
Машины, заменив людей в таком деликатном деле, как определение преступления и наказания, исказили эту идею. Упрощение и стремление к эффективности управления привело к утрате моральной составляющей этих процессов.
Полиция фактически передала власть над людьми машинам и создала себе проблемы, с которыми ей сложно, если не невозможно, будет справиться.
В современном мире люди, бездумно развивающие ИИ, не видящие границ, которые ставит искусственному интеллекту сама его природа, ведут человечество к гибели не вследствие бомб и прочего, а вследствие утраты своих сущностных качеств - разума и морали.
Например, сейчас хотят ИИ передать функции обучения и лечения людей. И это не фантастика, а наше настоящее.
Хотя до сих пор организм человека, мозг человека, психика человека - во многом "terra incognito".
Следовательно, ошибки ИИ неизбежны. Но вера в ИИ, подобно религиозной, почему-то
растёт в геометрической прогрессии...
И это только начало...
Человечество бодро бежит в тупик своего развития, в сторону самоуничтожения.
P.S. В качестве дополнения: рассказ, в котором описано практически современное общество, "Машина останавливается" Э.М.Форстер. Потрясает ДАТА написания рассказа - 1909 год!
"Двурукая машина" Г.Каттнера (1955 год) практически продолжает мысль "Страж-птицы"(1953 год).
Таких произведений немало, любители фантастики их знают.
ДАТЫ НАПИСАНИЯ этих трёх произведений говорят нам о том, что, востину, эти писатели - провидцы общества будущего.
И это будущее - не вдохновляет...Когда технический прогресс помогает людям решать материальные и технологические проблемы - это прекрасно.
Но когда человечество бездушной машине предоставляет определять, что есть добро и что есть зло, оно идёт к расчеловечиванию и нравственной деградации.
В рассказе Шекли руководство полиции в стремлении к быстроте и эффективности правосудия передало функции определения преступления и наказания за него самообучающимся машинам. Машины в процессе самообучения в определении деяния убийство дошли до абсурда, убивая людей, которые косили траву или, например, ловили рыбу.
Машины, заменив людей в таком деликатном деле, как определение преступления и наказания, исказили эту идею. Упрощение и стремление к эффективности управления привело к утрате моральной составляющей этих процессов.
Полиция фактически передала власть над людьми машинам и создала себе проблемы, с которыми ей сложно, если не невозможно, будет справиться.
В современном мире люди, бездумно развивающие ИИ, не видящие... Показать все
Комментарии
11"Эх, ученые, хвостом вас по голове!" - точнее Стругацких и не скажешь
Но когда человечество бездушной машине предоставляет определять, что есть добро и что есть зло, оно идёт к расчеловечиванию и нравственной деградации.
В рассказе Шекли руководство полиции в стремлении к быстроте и эффективности правосудия передало функции определения преступления и наказания за него самообучающимся машинам. Машины в процессе самообучения в определении деяния убийство дошли до абсурда, убивая людей, которые косили траву или, например, ловили рыбу.
Машины, заменив людей в таком деликатном деле, как определение преступления и наказания, исказили эту идею. Упрощение и стремление к эффективности управления привело к утрате моральной составляющей этих процессов.
Полиция фактически передала власть над людьми машинам и создала себе проблемы, с которыми ей сложно, если не невозможно, будет справиться.
В современном мире люди, бездумно развивающие ИИ, не видящие... Показать все