Overview
์ค๋ช
๊ฐ๋ฅํ AI(XAI, Explainable Artificial Intelligence)๋ ๋จธ์ ๋ฌ๋ ์๊ณ ๋ฆฌ์ฆ์ผ๋ก ์์ฑ๋ ๊ฒฐ๊ณผ์ ์ถ๋ ฅ์ ์ธ๊ฐ์ธ ์ฌ์ฉ์๊ฐ ์ดํดํ๊ณ ์ด๋ฅผ ์ ๋ขฐํ ์ ์๋๋ก ํด์ฃผ๋ ์ผ๋ จ์ ํ๋ก์ธ์ค์ ๋ฐฉ๋ฒ๋ก ์
๋๋ค. ์ค๋ช
๊ฐ๋ฅํ AI๋ฅผ ์ฌ์ฉํ๋ฉด AI ๋ชจ๋ธ, ์ด์ ์์๋ ์ํฅ ๋ฐ ์ ์ฌ์ ํธํฅ์ ๊ธฐ์ ํ ์ ์์ต๋๋ค. ์ด๋ AI ๊ธฐ๋ฐ ์์ฌ๊ฒฐ์ ์์ ๋ชจ๋ธ ์ ํ์ฑ, ๊ณต์ ์ฑ, ํฌ๋ช
์ฑ ๋ฐ ์ต์ข
๊ฒฐ๊ณผ๋ฅผ ํน์ฑํํ๋ ๋ฐ ์ ์ฉํฉ๋๋ค. ์ค๋ช
๊ฐ๋ฅํ AI๋ ๊ธฐ์
์ด AI ๋ชจ๋ธ์ ์์ฐ์ ํฌ์
ํ ๋ ์ ๋ขฐ๊ฐ๊ณผ ์์ ๊ฐ์ ์ป๋ ๋ฐ ์์ด์ ๋งค์ฐ ์ค์ํฉ๋๋ค. AI ์ค๋ช
๊ฐ๋ฅ์ฑ์ ๊ธฐ์
์ด AI ๊ฐ๋ฐ์ ์ฑ
์ ์๋ ์ ๊ทผ ๋ฐฉ์์ ์ ์ฉํ๋ ๋ฐ๋ ๋์์ด ๋ฉ๋๋ค.
AI๊ฐ ๊ณ ๋๋ก ๋ฐ์ ํจ์ ๋ฐ๋ผ, ์ธ๊ฐ์ AI ์๊ณ ๋ฆฌ์ฆ์ ๊ฒฐ๊ณผ ๋์ถ ๊ณผ์ ์ ํ์
ํ๊ณ ์ด๋ฅผ ์ญ์ถ์ ํด์ผํ๋ ๋์ ์ ๋ด์ฐฉํ๊ฒ ๋์์ต๋๋ค. ์ ์ฒด ๊ณ์ฐ ํ๋ก์ธ์ค๋ ํด์์ด ๋ถ๊ฐ๋ฅํ ์์ ๋งํ๋ "๋ธ๋๋ฐ์ค"๋ก ์ ํ๋ฉ๋๋ค. ์ด๋ฌํ ๋ธ๋๋ฐ์ค ๋ชจ๋ธ์ ๋ฐ์ดํฐ๋ก๋ถํฐ ์ง์ ๊ตฌ์ถ๋ฉ๋๋ค. ๋ํ ์๊ณ ๋ฆฌ์ฆ์ ๋ง๋๋ ์์ง๋์ด๋ ๋ฐ์ดํฐ ์ฌ์ด์ธํฐ์คํธ์กฐ์ฐจ๋ ๊ทธ ๋ด๋ถ์์ ๋๋์ฒด ๋ฌด์จ ์ผ์ด ๋ฐ์ํ๋์ง ํน์ AI ์๊ณ ๋ฆฌ์ฆ์ด ํน์ ๊ฒฐ๊ณผ๋ฅผ ์ด๋ป๊ฒ ๋์ถํ๋์ง๋ฅผ ํ์
ํ๊ฑฐ๋ ์ค๋ช
ํ ์๊ฐ ์์ต๋๋ค.
AI ๊ธฐ๋ฐ ์์คํ
์ด ํน์ ๊ฒฐ๊ณผ๋ฅผ ๋์ถํ๋ ๋ฐฉ๋ฒ์ ํ์
ํ ์ ์์ผ๋ฉด ๋งค์ฐ ์ ์ฉํฉ๋๋ค. ์ค๋ช
๊ฐ๋ฅ์ฑ์ ๊ฐ๋ฐ์๊ฐ ์์คํ
์ด ์์๋๋ก ์๋ ์ค์ธ์ง๋ฅผ ๋ณด์ฅํ๋ ๋ฐ ์ ์ฉํ๋ฉฐ, ๊ท์ ๋ฐฉ์์ ํ์ค์ ๋ฐ๋ผ์ผ ํ ์๋ ์์ต๋๋ค. ๋ํ ์ด๋ ์์ฌ๊ฒฐ์ ์ผ๋ก ์นจํด๋ฅผ ๋นํ ์ฌ๋๋ค์ด ํด๋น ๊ฒฐ๊ณผ์ ์ด์๋ฅผ ์ ๊ธฐํ๊ฑฐ๋ ์ด๋ฅผ ๋ฐ๊ฟ ์ ์๋๋ก ํ์ฉํ๋ ๋ฐ ์์ด์ ์ค์ํ ์๋ ์์ต๋๋ค.
Explainable artificial intelligence (XAI) is a set of processes and methods that allows human users to comprehend and trust the results and output created by machine learning algorithms. Explainable AI is used to describe an AI model, its expected impact and potential biases. It helps characterize model accuracy, fairness, transparency and outcomes in AI-powered decision making. Explainable AI is crucial for an organization in building trust and confidence when putting AI models into production. AI explainability also helps an organization adopt a responsible approach to AI development.
As AI becomes more advanced, humans are challenged to comprehend and retrace how the algorithm came to a result. The whole calculation process is turned into what is commonly referred to as a โblack box" that is impossible to interpret. These black box models are created directly from the data. And, not even the engineers or data scientists who create the algorithm can understand or explain what exactly is happening inside them or how the AI algorithm arrived at a specific result.
There are many advantages to understanding how an AI-enabled system has led to a specific output. Explainability can help developers ensure that the system is working as expected, it might be necessary to meet regulatory standards, or it might be important in allowing those affected by a decision to challenge or change that outcome.
(Reference: https://www.ibm.com/kr-ko/watson/explainable-ai)
People
Search
Projects
์ค๋ช ๊ฐ๋ฅํ AI ๊ธฐ๋ฐ ๋์งํธํธ์ (XAI-DTw) ์์จ์ด์ ์๋น์ค ๊ธฐ์ ๊ฐ๋ฐ
์ง์ ๊ธฐ๊ด : ์ฐ์
ํต์์์๋ถ
์ฌ์
๋ช
: ์ง์์๋น์ค์ฐ์
๊ธฐ์ ๊ฐ๋ฐ์ฌ์
1.
๋์งํธํธ์
์ง์์ฌ๋ฌผ์ธํฐ๋ท (IoT)์ ํตํด ์ค์ ๋ฐ์ดํฐ๋ฅผ ์
๋ ฅ๋ฐ๊ณ , ์ธ๊ณต์ง๋ฅ (AI) ๊ธฐ์ ์ ํตํด ์
๋ ฅ๋ ๋ฐ์ดํฐ์ ๋ํ ์ํฅ์ ์์ธก ๋๋ ์๋ฎฌ๋ ์ด์
ํ์ฌ, ๊ทธ ์ถ๋ ฅ๊ฐ์ ๊ธฐ๋ฐ์ผ๋ก ๋ฌผ๋ฆฌ์ ๊ฐ์ฒด๋ฅผ ์ต์ ํํ์ฌ ์ด์ํ ์ ์๋๋ก ์ง์
2.
์ค๋ช
๊ฐ๋ฅํ AI
์ธ๊ณต์ง๋ฅ์ด ์
๋ ฅ๋ ๋ฐ์ดํฐ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๋์ถ๋ ํน์ ํ๋จ๊ฒฐ๊ณผ์ ๊ณผ์ ๊ณผ ์ด์ ๋ฅผ ์ฌ๋์ด ์ดํดํ ์ ์๋๋ก ์ ๊ณตํ๋ ๊ธฐ์ ๋ก์, ์ด๋ฅผ ํตํด ๋์งํธํธ์์ด ํน์ ์ํฉ์ ๋ํด ์
๋ ฅ๋ ๋ฐ์ดํฐ๋ฅผ ์ฒ๋ฆฌ ๋ฐ ๋ถ์ํ์ฌ ์์ฌ๊ฒฐ์ ๊ฒฐ๊ณผ (insights)๋ฅผ ๋์ถํ๋ ๊ณผ์ ๊ณผ ๊ทผ๊ฑฐ๋ฅผ ํจ๊ณผ์ ์ผ๋ก ์ ์ํ ์ ์๋ ์๋น์ค ์ ๊ณต
3.
์ค๋ช
๊ฐ๋ฅํ AI ๊ธฐ๋ฐ ๋์งํธํธ์
์ค์๊ฐ ์์ง ๋ฐ์ดํฐ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ์ค๊ฐํ 3D ๋ชจ๋ธ๋ก ์๋์์ฑ
๋ด์ฌ๋ ํ์ต๋ชจ๋ธ์ ํตํด ๋ฌธ์ ์ํฉ์ ๋ํ ์์ธ๊ณผ ๊ฒฐ๊ณผ ๋ฐ ํด๊ฒฐ๋ฐฉ์์ ๋์ถ
๋์ถ๋ ๊ฒฐ๊ณผ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๋์ํ๋ ์ ๊ณผ์ ์ ๋ฅ๋์ ์ผ๋ก ์ํํ๋ ์์จ์ด์
๋์งํธํธ์์ ์์ฑ์์๋ถํฐ ํ์ฉ๊น์ง์ ์ ๊ณผ์ ์ ์์จํํ๊ณ , ์ด๋ฅผ ์ํ ์๋ฆฌ์ ์ด๊ณ ๋
ผ๋ฆฌ์ ์ธ ๋ชจ๋ธ๋ค์ ์ฌ๊ณ ์ฒด๊ณ๋ฅผ ์ฌ์ฉ์์๊ฒ ์ดํดํ ์ ์๋ ๋ฐฉ๋ฒ์ผ๋ก ์ ์
Publications
Search