Uploads from ‍김성범[ 교수 / 산업경영공학부 ]

Currently Playing: [Open DMQA Seminar] Knowledge Editing How do LLMs know the President has Changed

대규모 언어 모델(large language models, LLMs)은 방대한 데이터를 학습하지만, 시간이 지남에 따라 정보가 노후화 되거나 잘못된 지식을 포함하게 되는 문제가 발생한다. 이를 해결하기 위해 모델 전체를 재학습 하는 것은 막대한 비용이 소요되므로, 특정 지식만을 효율적으로 삭제하거나 수정하는 언러닝(unlearning) 및 지식 편집(knowledge editing) 연구의 필요성이 주목 받고 있다. 본 세미나에서는 먼저 개념 및 분류 체계를 소개하여 연구의 배경을 설명한다. 이후, 단순한 사실 관계의 수정을 넘어 지식 간의 논리적 종속성과 멀티홉(multi-hop) 추론 문제를 해결하기 위한 최신 방법론들을 소개해 지식 편집 기술의 발전 과정을 살펴보고자 한다. 참고자료: [1] Liu, S., et al. (2025). Rethinking machine unlearning for large language models. Nature Machine Intelligence. [2] Li, Q., et al. (2025). A survey of machine unlearning in large language models: Methods, challenges and future directions. arXiv preprint arXiv:2410.00624. [3] Zhong, Z., Wu, Z., Manning, C. D., Potts, C., & Chen, D. (2023). MQUAKE: Assessing Knowledge Editing in Language Models via Multi-Hop Questions. In EMNLP. [4] Gu, H., Zhou, K., Han, X., Liu, N., Wang, R., & Wang, X. (2024). PokeMQA: Programmable knowledge editing for Multi-hop Question Answering. In ACL. [5] Simon, D., & Ewetz, R. (2025). Knowledge Editing for Multi-Hop Question Answering Using Semantic Analysis. In IJCAI.