kaseomi 님의 블로그

보호되어 있는 글입니다.

인공지능(AI)의 결과에 대한 신뢰와 투명성이 중요해지면서 설명 가능한 인공지능(XAI)에 대한 관심이 높아지고 있습니다. 이번 글에서는 XAI 방법론을 활용 방식에 따라 어떻게 분류하는지, 그리고 좋은 설명이 무엇인지 평가하는 기준에 대해 핵심만 정리해 보겠습니다.1. XAI 활용 방식: Intrinsic vs. Post-hocXAI는 모델을 설명하는 시점과 방식에 따라 크게 두 가지로 나눌 수 있습니다.분류Intrinsic XAI (내재적 설명)Post-hoc XAI (사후 설명)개념모델 자체가 해석 가능하도록 설계됨.학습된 모델(블랙박스)에 사후적으로 해석을 추가.특징모델 구조와 동작 방식이 직관적이고 투명함.복잡한 신경망 모델에도 적용 가능하여 범용성이 높음.장점해석 과정이 직관적이며 빠름.모델 ..

이 글은 서울대학교 산업공학과 DSBA 연구실의 XAI 스터디 1주차 첫 번째 파트, "Introduction - Part 1" 영상의 내용을 요약 정리한 것이다. 이 영상은 XAI에 대한 전반적인 개요를 소개하며, XAI의 정의, 중요성, 그리고 방법론 분류 기준 중 '범위(Scope)'와 '방법론(Methodology)'에 대해 설명한다.XAI 용어 정의 및 중요성XAI를 이해하기 위해 세 가지 핵심 용어의 정의가 필요하다.1. Interpretability (해석 가능성): 모델이 얼마나 쉽게 이해될 수 있는가에 대한 내용이다. 선형 회귀나 트리 기반 모델과 같은 전통적인 머신러닝 방법들은 복잡도가 낮고 해석 가능성이 높다. 반면, 딥러닝 모델은 파라미터 수가 많아 해석 가능성이 낮다.2. Expl..

XAI 리뷰 - 1. 개요 요약 및 블로그 글 정리이 글은 서울대학교 산업공학과 DSBA 연구실에서 진행한 XAI(설명 가능한 인공지능) 리뷰 영상 "XAI Review - 1. Overview"의 내용을 요약 정리한 것이다.XAI의 필요성최근 인공지능(AI) 기술은 넷플릭스 추천 시스템, 챗봇 등 다양한 산업 분야에서 광범위하게 활용되고 있다. 하지만 대부분의 AI 모델은 그 작동 원리를 이해하기 어려운 '블랙박스' 형태로 존재한다. 수많은 가중치와 깊은 레이어로 구성된 AI 모델은 사람이 그 내부에서 어떤 일이 일어나는지 알기 어렵게 만든다.이러한 블랙박스 AI는 여러 가지 위험을 내포하고 있다. 예를 들어, 2017년에는 인종차별적인 결과를 나타내거나, 2018년에는 자율주행 차의 사고, 최근에는 ..

온톨로지와 AI를 연결하는 핵심 툴 5가지온톨로지를 단순히 개념 정의에만 그치지 않고, 실제 데이터 관리와 AI 에이전트와의 연동까지 확장하기 위해서는 다양한 도구들이 필요하다. 이번 글에서는 온톨로지 설계부터 데이터 질의, 그리고 AI와의 통합까지 이어지는 주요 툴들을 정리해본다.1. Protege – 온톨로지 설계의 출발점온톨로지를 설계할 때 가장 널리 쓰이는 툴이 바로 Protege다. 사용자는 특정 도메인의 개념(Class)을 정의하고, 각 개념의 속성(Property)을 설계할 수 있다. 또한 개념들 간의 관계(Relation)를 시각적으로 구조화할 수 있어, 복잡한 지식 체계를 명확하게 표현할 수 있다. 즉, Protege는 온톨로지를 처음 시작하는 단계에서 지식 모델링을 구체화하는 핵심 도구..

1. 온톨로지란 무엇인가?온톨로지(ontology)는 원래 철학에서 출발한 개념으로, ‘존재하는 것들의 본질과 관계를 체계적으로 표현하는 방법’을 의미한다. 인공지능과 데이터 과학에서는 이를 확장해, 특정 도메인의 지식과 개념들을 정의하고 그들 간의 관계를 구조적으로 표현한 지식 모델을 뜻한다.예를 들어, 의료 분야에서 온톨로지를 구축한다면 질병, 증상, 약물, 치료 방법 같은 개념을 정의하고, ‘증상은 질병을 나타낸다’, ‘약물은 질병을 치료한다’와 같은 관계를 연결한다. 이렇게 구축된 온톨로지는 지식 그래프 형태로 활용되며, 단순한 데이터 나열이 아닌 데이터 간 의미를 연결하는 지식의 지도로 기능한다.2. 왜 온톨로지가 중요한가?AI 모델은 대규모 데이터를 학습해 패턴을 찾는 데에는 강점이 있지만, ..

import pandas as pdimport matplotlib.pyplot as pltimport seaborn as snsfrom sklearn.ensemble import RandomForestRegressorfrom sklearn.metrics import r2_score# 센서 컬럼sensor_cols = ['temperature', 'vibration', 'humidity', 'pressure', 'energy_consumption']# 전체 머신 루프for machine_id in range(1, 51):    df_machine = df_cleaned[df_cleaned['machine_id'] == machine_id]    # 충분한 데이터가 있을 경우만 실행    if len(df_..

import pandas as pdfrom scipy.stats import ttest_ind, mannwhitneyu# 데이터 불러오기df = pd.read_csv('machine_23_data.csv')# 시간 순 정렬df = df.sort_values(by='timestamp')# rul_diff 계산df['rul_diff'] = df['predicted_remaining_life'].diff(periods=-1) * -1# NaN 제거df = df.dropna(subset=['rul_diff'])# 기준: rul_diff의 중간값으로 그룹 나누기threshold = df['rul_diff'].median()df['rul_group'] = df['rul_diff'].apply(lambda x: 'h..