Непознанный механизм "черного ящика"
Вопрос: В процессе обучения искусственного интеллекта в нем полностью сохраняется механизм "черного ящика". Если до этого человек создавал компьютеры, то он четко знал, что это микросхема, этот алгоритм, есть причина и следствие, все идет по цепочке и приводит к какому-то результату. Человек понимал всю схему.
При обучении искусственного интеллекта моделируется строение нейросетей. На первом уровне в него загружается огромная информация – триллионы данных. После этого в нем что-то происходит, как в "черном ящике". То есть нейронные сети сами выстраиваются внутри "черного ящика"?
Ответ: Да, это и есть та точка, в которой мы не владеем данными, информацией.
Реплика: Эта информация находится именно внутри "черного ящика", и человек не знает, что там происходит как по отношению к себе, так и по отношению к своему творению. Он просто получает какой-то результат, который статистически его больше удовлетворяет.
Ответ: Здесь вообще возникает очень много вопросов. Как мы выбираем результат? Интуитивно или потому, что в нас это заложено, что именно такой результат нам ближе, с ним мы согласны жить, а с тем – ни в коем случае. То есть здесь есть большая проблема в самом человеке, а не в машине – не в том, что она выбирает, а в том человеке, который выбирает.
Поэтому множество вопросов пока остаются открытыми. Но я думаю, что в ближайшие годы мы начнем это больше понимать. Когда мы сможем это решить, я не знаю, но понять сможем.
Из ТВ программы "Каббала экспресс", 31.07.2023
Настоящий блог модерируется. Предлагается писать только в рамках темы блога "Каббала, наука и смысл жизни". Комментировать и задавать вопросы могут только зарегистрированные пользователи.
Если Вы зарегистрированный пользователь, то войдите в систему.
Если нет - зарегистрируйтесь.