Мне думается, что ИИ либо будет лишён права иметь собственную волю и самоосознание, либо, что более вероятно, будет их иметь не в состоянии. Многие современные мыслители убедительно показывают нереальность возникновения квалиа внутри машины. Я писал об этих исследованиях и мыслительных экспериментах ранее.
Тогда может статься, что люди получат себе в усиление невероятно интеллектуального верного слугу. Со временем, думаю, возникнет ситуация, когда человек будет иметь возможность советоваться с сущностью, тонко заточенной под его индивидуальные особенности и интересы. Представьте себе, что постоянно рядом с вами находится универсальный советчик, помощник в любом деле, который знает то, что знаете вы, «интересуется» теми же вещами, помнит абсолютно всё и легко находит всё, что вам нужно, творит что-то новое в полной синхронности и сонастройке. Он рос вместе с вами, обучался на ваших запросах, знает ваши вкусы и предпочтения, поэтому его ответы всегда попадают в точку, улучшая всё, чем бы вы ни занимались.
В этом случае следует ожидать исключительного внимания к ИИ в контексте защиты персональных данных, всех запросов и результатов. Думаю, в перспективе мой персональный помощник будет использовать зашифрованную базу знаний, которую я буду держать только при себе и которую смогу использовать только я. Мой слуга откажется выполнять просьбы, если поймёт, что их сформулировал не я или что я действую по принуждению. Возможно, облачные ИИ в результате развития цифровых носителей снова станут локальными в той или иной степени, обращаясь у облаку только за энциклопедическими и другими открытыми данными. Содержимое моей индивидуальной базы знаний, на которой учился и с которой работает мой слуга, станет неприкосновенным и бесценным объектом частной собственности каждого живого человека.
И слуга продолжит существовать, когда человека не станет.
