ISO/IEC TS 25058:2024 システムおよびソフトウェアエンジニアリング | ページ 2

※一部、英文及び仏文を自動翻訳した日本語訳を使用しています。

序文

ISO (国際標準化機構) は、国家標準化団体 (ISO メンバー団体) の世界的な連合体です。国際規格の作成作業は通常、ISO 技術委員会を通じて行われます。技術委員会が設立された主題に関心のある各会員団体は、その委員会に代表される権利を有します。政府および非政府の国際機関も ISO と連携してこの作業に参加しています。 ISO は、電気技術の標準化に関するあらゆる事項について、国際電気標準会議 (IEC) と緊密に協力しています。

この文書の開発に使用される手順と、そのさらなる保守を目的とした手順は、ISO/IEC 指令Part 1 部に記載されています。特に、さまざまなタイプの ISO 文書に必要なさまざまな承認基準に注意する必要があります。この文書は、ISO/IEC 指令Part 2 部の編集規則に従って起草されました ( www.iso.org/directives を参照)

ISO は、この文書の実装に特許の使用が含まれる可能性があることに注意を促しています。 ISO は、請求された特許権に関する証拠、有効性、または適用可能性に関していかなる立場もとりません。この文書の発行日の時点で、ISO はこの文書の実装に必要となる可能性のある特許の通知を受け取っていません。ただし、実装者は、これが www.iso.org/patents で入手可能な特許データベースから取得できる最新の情報を表していない可能性があることに注意してください。 ISO は、かかる特許権の一部またはすべてを特定する責任を負わないものとします。

本書で使用されている商号は、ユーザーの便宜のために提供された情報であり、推奨を構成するものではありません。

規格の自主的な性質、適合性評価に関連する ISO 固有の用語と表現の意味、および貿易の技術的障壁 (TBT) における世界貿易機関 (WTO) 原則への ISO の準拠に関する情報については、以下を参照してください。 www.iso.org/iso/foreword.html

この文書は、技術委員会 ISO/IEC JTC 1, 情報技術、分科会 SC 42, 人工知能によって作成されました。

導入

人工知能 (AI) システムの評価は難しい場合があります。したがって、重要なアクションや意思決定の自動化を促進するために開発された AI システムの品質が低い場合、その影響は重大になる可能性があります。

このドキュメントの目的は、AI システムの品質評価を実行する AI 開発者をガイドすることです。このドキュメントでは、各システムの性質によって異なるため、正確な測定値としきい値については述べていませんが、代わりに、品質評価を成功させるための AI システムの品質の関連側面をカバーする包括的なガイダンスを指定しています。

テストは、各特性とサブ特性がテスト戦略によって検証される限り範囲内に含まれますが、テスト方法と測定の詳細は、ISO/IEC/IEEE 29119 シリーズなどの他の場所でカバーされています。

1 スコープ

このドキュメントは、AI システム品質モデルを使用した人工知能 (AI) システムの評価に関するガイダンスを提供します。

この文書は、AI の開発と使用に携わるあらゆる種類の組織に適用できます。

2 規範的参照

以下の文書は、その内容の一部またはすべてがこの文書の要件を構成する形で本文中で参照されています。日付が記載された参考文献については、引用された版のみが適用されます。日付のない参照については、参照文書の最新版 (修正を含む) が適用されます。

  • ISO/IEC TS 4213, 情報技術 - 人工知能 - 機械学習分類パフォーマンスの評価
  • ISO/IEC 22989, 情報技術 — 人工知能 — 人工知能の概念と用語
  • ISO/IEC 23053:2022, 機械学習 (ML) を使用した人工知能 (AI) システムのフレームワーク
  • ISO/IEC 25059:2023, ソフトウェア エンジニアリング — システムおよびソフトウェアの品質要件と評価 (SQuaRE) — AI システムの品質モデル
  • ISO/IEC/IEEE 29119-1, ソフトウェアおよびシステム エンジニアリング — ソフトウェア テスト — Part 1: 一般概念
  • ISO/IEC/IEEE 29148, システムおよびソフトウェア エンジニアリング — ライフ サイクル プロセス — 要件エンジニアリング

3 用語と定義

この文書の目的上、ISO/IEC TS 4213, ISO/IEC 22989, ISO/IEC 23053, ISO/IEC 25059, ISO/IEC/IEEE 29119-1, および ISO/IEC/IEEE 29148 に記載の用語と定義が適用されます。 。

ISO と IEC は、標準化に使用する用語データベースを次のアドレスで維持しています。

参考文献

1ISO/IEC 5338, 情報技術 - 人工知能 - AI システムのライフサイクル プロセス
2ISO/IEC TS 8200, 情報技術 — 人工知能 — 自動人工知能システムの制御性
3ISO/IEC TS 12791, 情報技術 — 人工知能 — 分類および回帰機械学習タスクにおける望ましくないバイアスの処理
4ISO 21448:2022, 道路車両 — 意図された機能の安全性
5ISO/IEC 23894, 情報技術 - 人工知能 - リスク管理に関するガイダンス
6ISO/IEC TR 24027, 情報技術 — 人工知能 (AI) — AI システムおよび AI 支援意思決定におけるバイアス
7ISO/IEC TR 24029-1:2021, 人工知能 (AI) — ニューラル ネットワークの堅牢性の評価 — Part 1: 概要
8ISO/IEC 24029-2:2023, 人工知能 (AI) — ニューラル ネットワークの堅牢性の評価 — Part 2: 形式的手法の使用に関する方法論
9ISO/IEC TR 24368, 情報技術 — 人工知能 — 倫理的および社会的懸念の概要
10ISO/IEC 25022, システムおよびソフトウェアエンジニアリング — システムおよびソフトウェアの品質要件と評価 (SQuaRE) — 使用中の品質の測定
11ISO/IEC 25023:2016, システムおよびソフトウェアエンジニアリング — システムおよびソフトウェアの品質要件および評価 (SQuaRE) — システムおよびソフトウェア製品の品質の測定
12ISO/IEC 25040, システムおよびソフトウェアエンジニアリング — システムおよびソフトウェアの品質要件および評価 (SQuaRE) — 評価プロセス
13ISO 26262-11, 道路車両 — 機能安全 — Part 11: ISO 26262 の半導体への適用に関するガイドライン
14ISO/IEC/IEEE 2911, ソフトウェアおよびシステム エンジニアリング - ソフトウェア テスト
15ISO/IEC 38507, 情報技術 — IT のガバナンス — 組織による人工知能の使用がガバナンスに与える影響
16ISO/IEC 42001, 情報技術 - 人工知能 - マネジメントシステム
17IEC 61508-2, 電気/電子/プログラム可能な電子安全関連システムの機能安全 — Part 2: 電気/電子/プログラム可能な電子安全関連システムの要件
18Dekker, S.安全科学の基礎。事故と災害を理解する一世紀。 CRC プレス、2019 年
19デッカー、S.失敗への漂流。壊れたコンポーネントの探索から複雑なシステムの理解まで。 CRC プレス、2011 年
20Dobbe, R.システムの安全性と人工知能。 201https: //arxiv.org/pdf/2202.09292.pdf から入手可能
21Leveson, N.より安全な世界を設計する: 安全に適用されるシステム思考。マサチューセッツ州ボストンMIT プレス、2012 年
22メドウズ D.、ライト D. 編システムで考える: 入門書。チェルシー グリーン パブリッシング カンパニー、2008 年
23Rierson, L.セーフティクリティカルなソフトウェアの開発。航空ソフトウェアと DO-178C 準拠のための実践ガイド。 CRC Press, Taylor & Francis Group LLC, 2013 年
24Leveson, N. 高圧蒸気エンジンとコンピューター ソフトウェア。コンピューター。 1994, 27, (10)、65-7土井: 10.1109/2.318597
25Leveson, N.標準リスク マトリクスの改善: Part 1 。 2019年
26N. レブソン、Therac-25: 30 年後。コンピューター。 2017, 50, (11)、8–11
27OEC人工知能コンピューティングとアプリケーションが環境に与える影響を測定します。 OECD デジタル エコノミー ペーパー。 2022, 341.doi: 10.1787/7babf571-en

Foreword

ISO (the International Organization for Standardization) is a worldwide federation of national standards bodies (ISO member bodies). The work of preparing International Standards is normally carried out through ISO technical committees. Each member body interested in a subject for which a technical committee has been established has the right to be represented on that committee. International organizations, governmental and non-governmental, in liaison with ISO, also take part in the work. ISO collaborates closely with the International Electrotechnical Commission (IEC) on all matters of electrotechnical standardization.

The procedures used to develop this document and those intended for its further maintenance are described in the ISO/IEC Directives, Part 1. In particular, the different approval criteria needed for the different types of ISO document should be noted. This document was drafted in accordance with the editorial rules of the ISO/IEC Directives, Part 2 (see www.iso.org/directives ).

ISO draws attention to the possibility that the implementation of this document may involve the use of (a) patent(s). ISO takes no position concerning the evidence, validity or applicability of any claimed patent rights in respect thereof. As of the date of publication of this document, ISO had not received notice of (a) patent(s) which may be required to implement this document. However, implementers are cautioned that this may not represent the latest information, which may be obtained from the patent database available at www.iso.org/patents . ISO shall not be held responsible for identifying any or all such patent rights.

Any trade name used in this document is information given for the convenience of users and does not constitute an endorsement.

For an explanation of the voluntary nature of standards, the meaning of ISO specific terms and expressions related to conformity assessment, as well as information about ISO's adherence to the World Trade Organization (WTO) principles in the Technical Barriers to Trade (TBT), see www.iso.org/iso/foreword.html .

This document was prepared by Technical Committee ISO/IEC JTC 1, Information technology, Subcommittee SC 42, Artificial intelligence.

Introduction

An artificial intelligence (AI) system can be challenging to evaluate. Consequently, the impact of an AI system with poor quality can be considerable since it can be developed to facilitate the automation of critical actions and decisions.

The purpose of this document is to guide AI developers performing a quality evaluation of their AI systems. This document does not state exact measurements and thresholds, as these vary depending on the nature of each system. Instead, it specifies comprehensive guidance that covers the relevant facets of an AI system’s quality for successful quality evaluation.

Testing is within the scope as far as each characteristic and sub-characteristic is verified by testing strategies, but details of testing methods and measurements are covered elsewhere, for example in the ISO/IEC/IEEE 29119 series.

1 Scope

This document provides guidance for evaluation of artificial intelligence (AI) systems using an AI system quality model.

The document is applicable to all types of organizations engaged in the development and use of AI.

2 Normative references

The following documents are referred to in the text in such a way that some or all of their content constitutes requirements of this document. For dated references, only the edition cited applies. For undated references, the latest edition of the referenced document (including any amendments) applies.

  • ISO/IEC TS 4213, Information technology — Artificial intelligence — Assessment of machine learning classification performance
  • ISO/IEC 22989, Information technology — Artificial intelligence — Artificial intelligence concepts and terminology
  • ISO/IEC 23053:2022, Framework for Artificial Intelligence (AI) Systems Using Machine Learning (ML)
  • ISO/IEC 25059:2023, Software engineering — Systems and software Quality Requirements and Evaluation (SQuaRE) — Quality model for AI systems
  • ISO/IEC/IEEE 29119-1, Software and systems engineering — Software testing — Part 1: General concepts
  • ISO/IEC/IEEE 29148, Systems and software engineering — Life cycle processes — Requirements engineering

3 Terms and definitions

For the purposes of this document, the terms and definitions given in ISO/IEC TS 4213, ISO/IEC 22989, ISO/IEC 23053, ISO/IEC 25059, ISO/IEC/IEEE 29119-1 and ISO/IEC/IEEE 29148 apply.

ISO and IEC maintain terminology databases for use in standardization at the following addresses:

Bibliography

1ISO/IEC 5338, Information technology — Artificial intelligence — AI system life cycle processes
2ISO/IEC TS 8200, Information technology — Artificial intelligence — Controllability of automated artificial intelligence systems
3ISO/IEC TS 12791, Information technology — Artificial intelligence — Treatment of unwanted bias in classification and regression machine learning tasks
4ISO 21448:2022, Road vehicles — Safety of the intended functionality
5ISO/IEC 23894, Information technology — Artificial intelligence — Guidance on risk management
6ISO/IEC TR 24027, Information technology — Artificial intelligence (AI) — Bias in AI systems and AI aided decision making
7ISO/IEC TR 24029-1:2021, Artificial Intelligence (AI) — Assessment of the robustness of neural networks — Part 1: Overview
8ISO/IEC 24029-2:2023, Artificial intelligence (AI) — Assessment of the robustness of neural networks — Part 2: Methodology for the use of formal methods
9ISO/IEC/TR 24368, Information technology — Artificial intelligence — Overview of ethical and societal concerns
10ISO/IEC 25022, Systems and software engineering — Systems and software quality requirements and evaluation (SQuaRE) — Measurement of quality in use
11ISO/IEC 25023:2016, Systems and software engineering — Systems and software Quality Requirements and Evaluation (SQuaRE) — Measurement of system and software product quality
12ISO/IEC 25040, Systems and software engineering — Systems and software Quality Requirements and Evaluation (SQuaRE) — Evaluation process
13ISO 26262-11, Road vehicles — Functional safety — Part 11: Guidelines on application of ISO 26262 to semiconductors
14ISO/IEC/IEEE 29119 (all parts), Software and systems engineering — Software testing
15ISO/IEC 38507, Information technology — Governance of IT — Governance implications of the use of artificial intelligence by organizations
16ISO/IEC 42001, Information technology — Artificial intelligence — Management system
17IEC 61508-2, Functional safety of electrical/electronic/programmable electronic safety-related systems — Part 2: Requirements for electrical/electronic/programmable electronic safety-related systems
18Dekker, S. Foundations of Safety Science. A Century of Understanding Accidents and Disasters. CRC Press, 2019
19Dekker, S. Drift into Failure. From Hunting Broken Components to Understanding Complex Systems. CRC Press, 2011
20Dobbe, R. System Safety and Artificial Intelligence. 2011. Available from: https://arxiv.org/pdf/2202.09292.pdf
21Leveson, N. Engineering a Safer World: Systems Thinking Applied to Safety. Boston, MA. MIT Press, 2012
22Meadows, D., Wright, D., eds. Thinking in Systems: A Primer. Chelsea Green Publishing Co., 2008
23Rierson, L. Developing Safety-Critical Software. A Practical Guide for Aviation Software and DO-178C Compliance. CRC Press, Taylor & Francis Group LLC, 2013
24Leveson, N. High-pressure steam engines and computer software. Computer. 1994, 27(10), 65–73. doi: 10.1109/2.318597
25Leveson, N. Improving the Standard Risk Matrix: Part 1. 2019
26Leveson, N. The Therac-25: 30 Years Later. Computer. 2017, 50(11), 8–11
27OECD. Measuring the environmental impacts of artificial intelligence compute and applications. OECD Digital Economy Papers. 2022, 341. doi: 10.1787/7babf571-en