|
Второй абзац у вас немного противоречит третьему. Второй абзац утверждает неважность памяти для соответствия индивидуума самому себе, но третий абзац в то же время утверждает, что мы вовсе не согласимся считать произвольную чистую нейросеть или Майкла Джексона нашим умершим дядей, пока память этой нейросети или Джексона не станет достаточно близка к памяти дяди.
И не стоит принимать своё личное отношение к делу за всеобщее. Кто-то беспечно относится к потерям крох воспоминаний, кто-то рефлексирует и сомневается. Хотя данная вами в другой теме ссылка несколько обнадёживает.
В любом случае большая часть воспоминаний обычно остаётся при нас — пусть даже пассивным и скрытым до поры грузом. Так что, если личность и равна памяти, потеря части воспоминаний — смерть лишь частичная. Хотя, если эти воспоминания являются последними во времени и образуют существенную часть вашего нынешнего самоощущения, то можно и попаниковать.
Про воспитание ИИ вопрос сложный.
Есть мизантропические и последовательные по-своему теории, утверждающие, что никакой человек не несёт в себе надёжного этического базиса, поэтому культура всегда окружает человека «костылями» вроде религии, а лишившийся общественного сдерживания и получивший сверхсилы субъект человеческого типа мышления сразу станет невероятным гадом.
С другой стороны, где гарантия, что попытка написать код «этичного существа» с нуля, минуя прихотливые решения нашей собственной эволюции, вообще приведёт хоть к чему-то путному, не приведёт к созданию Тамплиера, желающего промыть всем нам мозги во имя реморализации, например? Ну а скопированный с человека сверхинтеллект, даже если станет гадом и поработит или уничтожит человечество, будет хотя бы сам в какой-то степени человеком и сможет когда-нибудь ради тех или иных нужд себя репродуцировать — то есть можно будет с облегчением утверждать: «По крайней мере, эволюция наша продолжается, путь наш не прервался».
|