Ученые не понимают, как ИИ принимает решения
Как информировал портал «Quartz», специалисты сферы ИИ перестают понимать общие принципы принятия решений «искусственным интеллектом». Об этом заявили участники профильной конференции «NIPS».
По мнению большинства экспертов, использование ИИ без четкого понимания логической цепи принятия решения можно считать, как минимум, легкомысленным подходом. Принимая модель обучения либо услуги, человечество должно иметь ясное представление: чем конкретно руководствуется ИИ, принимая свои текущие решения?
Вполне объективно можно утверждать, что многие решения ИИ являются максимально предвзятыми. Вместе с этим, далеко не всегда идеально, так называемое, «ассоциативное мышление». Учитывая это, ИИ может проводить абсолютно неверные аналогии. Подобные ошибки способны иметь фатальные последствия. В качестве моделирующего примера был рассмотрен случай, когда ИИ задействован в управлении сложными проектами. Речь идет о популярной тематике полета на Марс. Одно неверное решение либо череда поступков ИИ способно, в данном случае, не только испортить дорогостоящее системное оборудование. Здесь существует реальный риск человеческих смертей.
Таким образом, использование ИИ и предоставление ему права принятия особо важных решений возможно только при определении и детальном изучении тех принципов, которыми руководствуется «искусственный интеллект». В этом плане продвинулась эксперт ИИ из бренда «Google» г-жа М.Рагху. В рамках конференции она представила аудитории профессиональный доклад.
В нем детально описан процесс комплексного отслеживания отдельных действий популярной ныне нейросети. Изучая их в локальном режиме, можно научиться понимать логику «искусственного интеллекта». Это даст инструменты для оперативной корректировки. Проанализировав огромное количество практических операций, эксперту удалось выявить «нейроны», дающие неверные представления. После их отключения ИИ стал правильным и намного более сговорчивым.
Так или иначе, но практическое использование ИИ требует более осмысленного подхода. В противном случае, человек может потерять оперативный контроль над реально происходящей ситуацией.
По мнению большинства экспертов, использование ИИ без четкого понимания логической цепи принятия решения можно считать, как минимум, легкомысленным подходом. Принимая модель обучения либо услуги, человечество должно иметь ясное представление: чем конкретно руководствуется ИИ, принимая свои текущие решения?
Вполне объективно можно утверждать, что многие решения ИИ являются максимально предвзятыми. Вместе с этим, далеко не всегда идеально, так называемое, «ассоциативное мышление». Учитывая это, ИИ может проводить абсолютно неверные аналогии. Подобные ошибки способны иметь фатальные последствия. В качестве моделирующего примера был рассмотрен случай, когда ИИ задействован в управлении сложными проектами. Речь идет о популярной тематике полета на Марс. Одно неверное решение либо череда поступков ИИ способно, в данном случае, не только испортить дорогостоящее системное оборудование. Здесь существует реальный риск человеческих смертей.
Таким образом, использование ИИ и предоставление ему права принятия особо важных решений возможно только при определении и детальном изучении тех принципов, которыми руководствуется «искусственный интеллект». В этом плане продвинулась эксперт ИИ из бренда «Google» г-жа М.Рагху. В рамках конференции она представила аудитории профессиональный доклад.
В нем детально описан процесс комплексного отслеживания отдельных действий популярной ныне нейросети. Изучая их в локальном режиме, можно научиться понимать логику «искусственного интеллекта». Это даст инструменты для оперативной корректировки. Проанализировав огромное количество практических операций, эксперту удалось выявить «нейроны», дающие неверные представления. После их отключения ИИ стал правильным и намного более сговорчивым.
Так или иначе, но практическое использование ИИ требует более осмысленного подхода. В противном случае, человек может потерять оперативный контроль над реально происходящей ситуацией.
