В целях решения вопросов доверия к искусственному интеллекту (ИИ) в новом техническом отчете ИСО и Международной электротехнической комиссии (МЭК) рассматриваются проблемы, связанные с надежностью и предлагаются практические решения. ISO/IEC TR 24028:2020, Информационные технологии. Искусственный интеллект. Обзор надежности в области искусственного интеллекта, анализирует факторы, которые могут повлиять на надежность систем, обеспечивающих или использующих ИИ. Документ можно применять любым бизнесом, независимо от его размера или сектора.
Прогноз погоды, фильтрация спама в электронной почте, поисковые запросы и распознавание голоса, такое как Siri от Apple, являются примерами искусственного интеллекта в повседневной жизни. Общими для этих технологий являются алгоритмы машинного обучения, которые позволяют им реагировать в режиме реального времени. Поклонники технологий и эксперты говорят, что по мере развития технологий у ИИ будут возникать некоторые, но положительный эффект, который он имеет с точки зрения производительности, неизмерим. Опрос, проведенный консалтинговой компанией McKinsey, показал, что аналитика ИИ может добавить около 13 трлн долларов США или 16% к годовому ВВП до 2030 года.
Вопрос надежности является ключевым, объясняет Ваэль Уильям Диаб (Wael William Diab), председатель ПК 42, Искусственный интеллект, подкомитет, которого работает при совместном техническом комитете ИСО/МЭК СТК 1, Информационные технологии: «Каждый клиент – будь то компания, предоставляющая финансовые услуги или производитель, задается вопросом. Кому я доверяю? Многие аспекты, включая общественные проблемы, такие как качество данных, конфиденциальность и безопасность должны быть решены. Недавно опубликованный технический отчет является первым из многих работ, которые помогут достичь данной цели».
ISO/IEC TR 24028 рассматривает существующие подходы, которые могут поддерживать или повышать надежность технических систем и обсуждает их потенциально применение в сфере искусственного интеллекта. В документе также обсуждаются возможные подходы к снижению уязвимости систем искусственного интеллекта и пути повышения их надежности.
В дополнение к представлению более четкого руководства по надежности и тому, как оно внедряется в информационные системы, ISO/IEC TR 24028 поможет сообществу стандартизации лучше понять и выявить конкретные пробелы в стандартизации в сфере искусственного интеллекта и, что важно, устранить их посредством будущей работы над стандартами.
ISO/IEC TR 24028 был разработан совместным техническим комитетом ИСО/МЭК СТК 1, Информационные технологии, подкомитетом ПК 42, Искусственный интеллект, секретариат которого ведется ANSI, членом ИСО из США. Новый технический отчет можно приобрести у вашего национального члена ИСО или в интернет-магазине ИСО.
