AI 글쓰기 (6)

1. 정의 내리기 글쓰기

결정트리(Decision Tree)

 

 

데이터 분석과 기계 학습에서 사용하는 지도 학습 알고리즘의 하나로, 데이터를 분류하거나 예측할 때 쓰인다. 나무(tree) 구조 형태를 취하고 있어 '결정 트리'라고 불리며, 루트 노드(root node)에서 시작해 각 가지(branch)가 질문이나 조건에 따라 분기하며 최종적으로 리프 노드(leaf node)에서 결론에 도달하는 방식으로 작동한다. 근거가 명확하도 중요도를 알 수 있는 장점이 있지만 질문 자체가 랜덤이기에 결과가 달라지거나, 질문이 많아지면 과적합 문제가 발생한다.

 

 

2. 현상 논평 글쓰기

서울대 연구팀, 챗GPT 등 대형언어모델 ‘환각증세’ 완화해주는 기술 개발 < 기술 < FOCUS < 기사본문 - 인공지능신문

사실적 해석 : 

서울대학교 컴퓨터공학부 지능형데이터시스템 연구팀은 대형언어모델(LLM)의 신뢰도를 높이는 기술을 개발하여 EMNLP 2024에서 관련 논문 2편을 발표할 예정입니다. 이 연구는 LLM의 환각 증세를 줄이기 위해 검색증강생성(RAG) 기술을 활용하는 방법을 다룹니다. RAG는 기업 내부 정보를 검색하여 LLM이 정확한 답변을 생성하도록 돕는 기술입니다. 연구팀은 특히 LLM이 답변 생성 시 외부 정보를 사용할지, 무시할지, 혹은 답변을 거부할지 판단하는 능력을 개선하여, LLM의 상황 대처 능력을 기존보다 10~30% 향상시켰습니다. 이를 통해 AI 서비스의 신뢰도가 크게 향상될 것으로 기대됩니다.

 

 

나의 관점 :

이 연구는 기업 환경에서 LLM을 안전하고 신뢰성 있게 사용할 수 있는 기반을 마련하는 데 매우 중요해 보인다. 특히, 챗GPT와 같은 AI 도구들이 지식 제공자로서 실질적인 가치를 인정받기 위해서는 환각 증세를 줄이고, 정확한 정보를 제공할 수 있는 기술적 개선이 필수적이다. RAG 기술을 활용한 이번 연구는 이러한 문제를 해결하는 중요한 한 걸음으로, 특히 엔트로피 기반의 상황 판단 능력 향상이 실제 현장에서 어떻게 적용될지 기대된다.

 

비평 :

엔트로피 측정 방식이 LLM의 신뢰도를 10~30% 향상시킨다고 하더라도, 사용자가 실제로 체감하는 신뢰도는 더 다양한 요인에 의해 영향을 받을 수 있다. 이번 연구가 LLM의 상용화에 중요한 기여를 할 수 있지만, 실제 서비스 도입 과정에서는 여러가지 추가로 해결되어야 할 것이 많아보인다.