Искусственный интеллект через 5-7 лет может выдавать порядка 70% искаженной информации. Таким мнением в интервью с РБК Ростов поделился директор АНО «Научно-производственного центра беспилотных авиационных систем Ростовской области» Олег Осипов. По его словам, причина не в том, что нейросети плохи, а в том, что они обучаются на неверных данных, которые некому верифицировать.
Осипов объясняет это накоплением ошибок. Когда ИИ учится на материалах, созданных другим искусственным интеллектом, верифицировать данные невозможно, и ошибки накапливаются. Эксперт добавил, что верифицировать информацию, на которой обучаются нейросети, не получается — к тому же появились сообщества, которые намеренно передают ИИ ложные сведения, а он воспринимает их как достоверные.
«Лет через 5–7 мы столкнемся с тем, что искусственный интеллект будет выдавать нам 70% искаженной информации. Не потому, что он плохой, а потому, что мы ему скормили кучу всякой фигни. Это даже не прогноз, это гарантированный риск», — предупредил эксперт.
По словам Осипова, мир переживает настолько глубокую трансформацию, что прежний уклад уже не вернется, а новый пока только складывается. России в этих условиях приходится иметь дело с теми же вызовами, что и раньше: небольшим внутренним рынком и трудностями с выходом на внешние. ИИ в этой ситуации выступает одновременно и тормозом, и двигателем развития.
«С одной стороны он высасывает все ресурсы из других отраслей, а с другой — появляются новые инструменты для работы. Я настороженно отношусь к искусственному интеллекту, к его возможностям и к тем последствиям, которые в долгосрочной перспективе он может принести для развития человечества. Я один из тех людей, которые говорят, что ИИ надо очень сильно ограничить», — отметил Осипов.
При этом без ИИ уже не обойтись — особенно в практическом применении дронов. Нейросети автоматически фиксируют нарушения — свалки, незаконное строительство — с высоты, позволяя региональному оператору продавать заказчикам не просто видео, а готовую аналитику с координатами.
«Парадокс этого момента заключается в том, что с одной стороны тебе нужно ограничивать развитие искусственного интеллекта, с другой стороны, если ты его не будешь развивать, ты проиграешь тем, кто не будет играть по этим правилам», — подчеркнул глава НПЦ БАС.
Ранее «Деловая газета. Юг» писала, что в Ростовской области объемы производства у резидентов центра БАС выросли в 20 раз за два года. Ростовская область занимает 24-е место в общероссийском рейтинге дронофикации.
