ماهو الذكاء الاصطناعي القابل للتفسير XAI

الذكاء الاصطناعي القابل للتفسير (Explainable AI – XAI) هو فرع من الذكاء الاصطناعي يركز على جعل قرارات النماذج الذكية أكثر شفافية وسهولة في الفهم من قبل البشر وذلك بشرح الأسباب التي جعلت نموذج الذكاء الاصطناعي يتخذ قرار ما. يتمثل الهدف الأساسي لـ XAI في تمكين المستخدمين من فهم كيفية وصول النموذج إلى قراراته وتقييم مدى دقتها ومصداقيتها، مما يزيد من الثقة في الأنظمة الذكية ويقلل من المخاطر المرتبطة باستخدامها.

ℹ️ ما هو الذكاء الاصطناعي القابل للتفسير XAI؟

الذكاء الاصطناعي القابل للتفسير يشير إلى تطوير أدوات وتقنيات تشرح عملية اتخاذ القرار للنماذج الذكية. بدلاً من أن تكون الأنظمة “صندوقًا أسود” غامضًا، يمكن لـ XAI توفير تفاصيل مثل العوامل التي أثرت على القرار وأهمية كل عامل Feature.

في بحث بسيط اجريته على تعريفات الذكاء الاصطناعي القابل للتفسير جمعت مايقارب ١٥ تعريف من الأوراق العلمية التي تناقش الموضوع في سياق استخدام الذكاء الاصطناعي في التعليم

م	تعريف الذكاء الاصطناعي القابل للتفسير	المصدر
1	الأساليب التي تنتج تفسيرات وأسباب شفافة لقرارات أنظمة الذكاء الاصطناعي، لزيادة الثقة وتعزيز المساءلة والأخلاقيات في استخدام الذكاء الاصطناعي.	(Khosravi et al., 2022)
2	مجال بحثي يركز على نماذج التعلم الآلي التي يمكنها تقديم تفسيرات واضحة وقابلة للتفسير لقراراتها وتوقعاتها.	(Nagy & Molontay, 2023)
3	الأساليب والتقنيات في تطبيق الذكاء الاصطناعي بحيث يمكن للخبراء البشريين فهم نتائج الحل.	(Farrow, 2023)
4	قدرة الآلات على شرح قراراتها وأفعالها بطريقة يمكن للبشر فهمها.	(Cortiñas-Lorenzo & Lacey, 2023)
5	مجموعة من الأساليب والتقنيات في تطبيق الذكاء الاصطناعي بحيث يمكن للخبراء البشريين فهم نتائج الحل.	(Fiok et al., 2022)
6	مجموعة الأدوات والتقنيات المستخدمة لجعل عملية اتخاذ القرار في نماذج التعلم الآلي أكثر شفافية وقابلية للتفسير.	(Kar et al., 2023)
7	مجموعة من التقنيات والأساليب التي تهدف إلى توفير الشفافية والقدرة على التفسير لنماذج الذكاء الاصطناعي وعمليات صنع القرار الخاصة بها.	(Jang et al., 2022)
8	قدرة نظام الذكاء الاصطناعي على تقديم تفسيرات واضحة وشفافة لعمليات صنع القرار، وهو أمر بالغ الأهمية لبناء الثقة والمساءلة.	(Rachha & Seyam, 2023)
9	حركة ومبادرات وأنشطة تتناول الشفافية والثقة في مجال الذكاء الاصطناعي.	(Embarak, 2022)
10	مجموعة من التقنيات والأساليب في تطبيق تكنولوجيا الذكاء الاصطناعي بحيث يمكن للخبراء البشريين فهم نتائج الحل.	(Hanif et al., 2021)
11	نوع من الذكاء الاصطناعي مصمم ليكون أكثر شفافية وقابلية للفهم.	(Kobusingye et al., 2023)
12	تطوير أنظمة ونماذج الذكاء الاصطناعي القادرة على تقديم أوصاف مفهومة لاستراتيجيات اتخاذ القرار.	(Long et al., 2023)
13	نهج لتطوير نماذج الذكاء الاصطناعي التي يمكن للبشر فهمها وتفسيرها بسهولة.	(Hasib et al., 2022)
14	تقنية تستخدم لتحليل عملية التعلم لدى الطالب الفردي، وتقييم العوامل الهامة التي تؤثر على فعالية التعلم، واستخلاص قواعد القرار للتنبؤ بنتائج التعلم لدى الطالب.	(Chou, 2021)
15	أنظمة وخوارزميات الذكاء الاصطناعي الشفافة والقابلة للتفسير والقادرة على تقديم تفسيرات لقراراتها وأفعالها.	(Arnold et al., 2022)

🤷🏻‍♂️ لماذا الذكاء الاصطناعي القابل للتفسير مهم؟

1.الثقة والمصداقية: يساعد XAI على بناء الثقة بين المستخدمين والمطورين في أنظمة الذكاء الاصطناعي من خلال توفير تفسير واضح للقرارات.

2.اتخاذ قرارات مستنيرة: يوفر للمستخدمين الأدوات لفهم القرارات مما يساعد في تقييم المخاطر والنتائج.

3.الكشف عن الأخطاء والانحياز: يمكن أن يكشف XAI عن أي انحياز أو أخطاء في النماذج، مما يسهم في تحسين الأداء.

4.الامتثال التنظيمي: هناك ضغط متزايد لتوفير شفافية في الأنظمة الذكية، خاصةً في القطاعات الخاضعة للتنظيم مثل الصحة والمالية.

الوضع الحالي لاستخدام XAI

في الوقت الحاضر، يشهد مجال الذكاء الاصطناعي القابل للتفسير تقدمًا ملحوظًا مع ظهور أدوات مثل SHAP و LIME التي تُستخدم على نطاق واسع لتفسير النماذج. ومع ذلك، فإن استخدامه لا يزال محدودًا بسبب التعقيدات التقنية وغياب معايير موحدة لتقييم جودة التفسيرات.

👨🏻‍💻 تطبيقات الذكاء الاصطناعي القابل للتفسير

1.الرعاية الصحية 🩺: لتوضيح قرارات تشخيص الأمراض أو اقتراح العلاجات.

2.المالية 🏦 : لتفسير قرارات القروض والكشف عن الاحتيال.

3.التعليم 📚: لمتابعة أداء الطلاب وتحديد الطلاب المعرضين لخطر الفشل.

4.السيارات ذاتية القيادة 🚗: لفهم القرارات المتعلقة بالسلامة.

5.الأمن السيبراني 🔐: لتوضيح أسباب تصنيف تهديد معين.

🌄 التحديات المستقبلية

على الرغم من الفوائد الواضحة، يواجه XAI تحديات مثل تعقيد تفسير النماذج المعقدة، التوفيق بين دقة النماذج وقابليتها للتفسير، والحاجة إلى تعاون متعدد التخصصات لتطوير حلول فعالة.

الخاتمة

يعد الذكاء الاصطناعي القابل للتفسير خطوة أساسية نحو بناء أنظمة ذكية موثوقة وشفافة. من خلال توفير رؤى واضحة حول قرارات النماذج، يمكن أن يسهم في تعزيز الاعتماد على الذكاء الاصطناعي في مختلف القطاعات. ومع استمرار الأبحاث والتطوير، من المتوقع أن يصبح XAI جزءًا أساسيًا من أنظمة الذكاء الاصطناعي المستقبلية.

المصادر

Adadi, A., & Berrada, M. (2018). Explainable AI: A survey. arXiv preprint arXiv:1802.01933.
Arnold, O., Golchert, S., Rennert, M., & Jantke, K. P. (2022). Interactive Collaborative Learning with Explainable Artificial Intelligence. International Conference on Interactive Collaborative Learning,
Cortiñas-Lorenzo, K., & Lacey, G. (2023). Toward Explainable Affective Computing: A Review. IEEE Transactions on Neural Networks and Learning Systems, 1-21. https://doi.org/10.1109/TNNLS.2023.3270027
Chou, T. (2021). Apply explainable AI to sustain the assessment of learning effectiveness. 12th International Multi-Conference on Complexity, Informatics and Cybernetics, IMCIC 2021,
Embarak, O. H. (2022). Internet of Behaviour (IoB)-based AI models for personalized smart education systems. Procedia Computer Science, 203, 103-110. https://doi.org/https://doi.org/10.1016/j.procs.2022.07.015
Fiok, K., Farahani, F. V., Karwowski, W., & Ahram, T. (2022). Explainable artificial intelligence for education and training. The Journal of Defense Modeling and Simulation, 19(2), 133-144.
Farrow, R. (2023). The possibilities and limits of XAI in education: a socio-technical perspective. Learning, Media and Technology, 1-14.
Gilpin, L. H., et al. (2018). Explaining explanations: An overview of interpretability of machine learning. arXiv preprint arXiv:1806.00069.
Hanif, A., Zhang, X., & Wood, S. (2021, 2021/10//). A Survey on Explainable Artificial Intelligence Techniques and Challenges. 2021 IEEE 25th International Enterprise Distributed Object Computing Workshop (EDOCW),
Hasib, K. M., Rahman, F., Hasnat, R., & Alam, M. G. R. (2022, 2022/01/26/). A Machine Learning and Explainable AI Approach for Predicting Secondary School Student Performance. 2022 IEEE 12th Annual Computing and Communication Workshop and Conference (CCWC),
Jang, Y., Choi, S., Jung, H., & Kim, H. (2022). Practical early prediction of students’ performance using machine learning and eXplainable AI. Education and Information Technologies, 27(9), 12855-12889.
Long, D., Roberts, J., Magerko, B., Holstein, K., DiPaola, D., & Martin, F. (2023). AI Literacy: Finding Common Threads between Education, Design, Policy, and Explainability. Extended Abstracts of the 2023 CHI Conference on Human Factors in Computing Systems,
Kar, S. P., Das, A. K., Chatterjee, R., & Mandal, J. K. (2023). Assessment of learning parameters for students’ adaptability in online education using machine learning and explainable AI. Education and Information Technologies, 1-16.
Khosravi, H., Shum, S. B., Chen, G., Conati, C., Tsai, Y.-S., Kay, J., Knight, S., Martinez-Maldonado, R., Sadiq, S., & Gašević, D. (2022). Explainable Artificial Intelligence in education. Computers and Education: Artificial Intelligence, 3, 100074. https://doi.org/10.1016/j.caeai.2022.100074
Kobusingye, B. M., Dorothy, A., Nakatumba-Nabende, J., & Marvin, G. (2023). Explainable Machine Translation for Intelligent E-Learning of Social Studies. 2023 7th International Conference on Trends in Electronics and Informatics (ICOEI),
Nagy, M., & Molontay, R. (2023). Interpretable Dropout Prediction: Towards XAI-Based Personalized Intervention. International Journal of Artificial Intelligence in Education, 1-27. https://doi.org/10.1007/s40593-023-00331-8
Rachha, A., & Seyam, M. (2023, 2023/04/01/). Explainable AI In Education : Current Trends, Challenges, And Opportunities. SoutheastCon 2023,