SK(주) C&C in SK TECH SUMMIT! 1편: 생성형 AI를 활용한 업무 혁신 - 금융권 적용 사례 중심

SK(주) C&C in SK TECH SUMMIT! 1편: 생성형 AI를 활용한 업무 혁신 - 금융권 적용 사례 중심

안녕하세요, SK 주식회사 C&C 취재기자 오예은입니다.

2023년 11월 16일-17일 양일 간, 서울 코엑스(COEX)에서 SK의 대규모 행사인 SK TECH SUMMIT이 개최되었는데요! 테크 관련 전시회와 강연이 주를 이루는 행사인 만큼 SK㈜ C&C가 빠질 수 없겠죠?😉
지난 SK TECH SUMMIT에는 SK㈜ C&C에 재직 중이신 현직자 분들의 강연이 총 10개로, AI, 빅데이터, 클라우드를 비롯해 여러 기술 분야에 대해 깊이 있는 지식을 쌓을 수 있는 시간이었습니다. 해당 강연들 중 두 분의 연사님을 섭외하여 인터뷰를 진행해보았습니다! 

먼저 <생성형 AI를 활용한 업무 혁신 - 금융권 적용 사례 중심>을 주제로 발표해주신 서대웅 매니저님을 만나보겠습니다. 강연 내용과 추가 QnA, AI분야의 꿀팁이 가득 담겨있으니 집중해서 읽어주세요😊🏃‍♂️  

SK Careers Editor 오예은

 

 

 

 

 

 

 

안녕하세요, SK(주) C&C에서 AI 관련 연구개발 업무를 하고 있는 서대웅 매니저입니다. 저는 2017년 SK가 IBM글로벌과 Watson 한국어 버전을 도입하여 국내에서 처음 AI를 활용한 사업을 진행하던 시기부터 AI관련 개발을 해오고 있습니다. 단순하게 API를 활용한 개발부터 시작하여 core기술에 대한 이해를 하며 자체 모델과 솔루션 개발까지 참여했고, 현재는 생성형 모델 연구와 실제 사업 활용을 위한 기능요소 개발을 담당하고 있습니다.
 

 

생성형 모델 연구는 주로 최신 논문들을 읽고, 인공지능 관련 오픈소스들을 finetuning하여 성능을 비교하는 등의 업무가 주로 이뤄집니다. 하지만 이것만 가지고는 저희가 경쟁사와 차별화된 서비스를 제공하기는 어렵기 때문에 실제 고객들을 만나서 어떤 기능이 필요한지 파악하여 해당 기능을 미리 개발하여 프로젝트를 지원하거나 혹은 선도적 사례를 구현하려는 고객 프로젝트에 투입되어 고객 환경에 맞는 인공지능 모델 및 기능을 개발하고 있습니다.

ChatGPT가 공개되기 전인 2022년 중반부터 우리은행은 이와 유사하게 근거 문서를 바탕으로 답변을 제공하는 시스템을 기획하여 비정형 데이터 자산화 시스템이라는 이름으로 프로젝트를 추진했는데요, 저희 회사뿐 아니라 많은 업체들이 굉장히 도전적인 과제로 인식하고 있었기 때문에 프로젝트의 성공 가능성을 담보하기 어려웠습니다. 하지만 저희 회사의 역량을 결집하여 고객이 만족할만한 수준으로 프로젝트를 완수했고, 저희 회사의 Best Practice로서 2023 TECH SUMMIT에서 강의를 할 수 있는 기회가 주어진 것 같습니다.

‘금융권’의 특수성은 보안에 있습니다. 아무래도 고객정보를 포함한 민감정보가 사내망에 다수 존재하다 보니 ChatGPT와 같은 외부망 서비스를 이용할 수 없고, 모든 기능을 사내망에 자체적으로 구현해야만 하는데, 언어모델 학습을 위한 데이터 역시 외부에서 가져올 수 없고 모두 내부에서 생성해야 하는 어려움이 존재합니다. 
또, 금융권에서는 특히 숫자의 정확성을 많이 따지게 되는데, 언어모델의 특성상 앞뒤 문맥으로 추론하기 때문에 숫자 연산이나 시의성 등을 고려하는 것이 생각보다 어려운 부분이 있습니다. 이런 점들을 모두 고려하여 고객도 처음 생각하지 못했던, 예를 들어 주기적으로 생산되는 유사 문서들에 대한 정확한 검색까지, 이번 프로젝트에서 구현하였습니다. 

아무래도 ChatGPT와 같은 생성형 모델과 비교했을 때는 성능면에서 뒤쳐질 수 있겠지만 저희의 강점은 고객이 내부망에 자체적으로 내재화할 수 있다는 점입니다. 데이터가 외부로 나갈 일이 없으니 보안 면에서 사고를 방지할 수 있고, 입력되는 질문들을 학습하고 분석하여 지속적으로 성능을 개선해 나갈 수 있습니다. 
실제 enterprise에서 원하는 생성형 모델은 잡담을 하는 모델이 아니라 업무를 처리하고 보조할 수 있는 능력을 갖춘 언어모델입니다. 이를 위해서는 기존의 시스템과 정보를 연동하고 각 업무 영역에 맞는 데이터를 학습시킬 필요가 있습니다. 이런 부분은 ChatGPT만으로는 해결되지 않는 영역인데 저희가 개발한 Accu. TA는 고객 환경에 맞춤형으로 제공되기 때문에 가능한 부분이 있습니다. 

프로젝트 기획 및 제안 단계에서는 없었던 ChatGPT가 프로젝트 시작 시점에 공개되면서 고객의 눈높이가 많이 높아졌던 점이 가장 어려웠습니다. 하지만 고객 현업과 협력해서 계속해서 양질의 데이터를 확보하고 공개된 오픈소스들과 성능을 비교하면서 품질 향상에 대한 노력을 했기 때문에 고객이 만족할 수 있는 수준의 모델을 납품할 수 있었습니다. 향후에도 지속적인 연구개발을 통해 저희의 자체 기술력을 확보하고 구축 방법론을 수립해 나갈 계획입니다.

개인적으로는 Deep learning weekly라는 E-mail 피드를 가장 많이 활용하는 편입니다. 중요한 기술 트렌드만 정리해주어서 매우 편리합니다. 뿐만 아니라 저희 팀 내부에서 진행되는 관련 스터디를 통해 팀원들끼리 정보를 공유하는 것도 매우 도움이 됩니다.

2024년은 저희 팀과 회사에 매우 중요한 한 해라고 생각하고 있습니다. 검색 기반의 답변 생성뿐 아니라 생성형 AI를 활용한 다양한 use case를 발굴해야 하고, 금융권 뿐 아니라 제조, 헬스케어, 유통 등 다양한 산업영역에 맞는 생성형 AI를 적용해야 한다고 생각합니다. 경쟁사들보다 한 발 앞서 시장을 선도하고 생성형 AI는 SK가 가장 잘 한다는 인식을 심어주는 한 해가 되었으면 합니다.

AI가 화려한 첨단 기술 처럼 보이지만, AI를 학습시키기 위해서는 양질의 데이터가 필요하고, 이를 확보하기 위해서는 단순하게 데이터를 확인하고 전처리 하는 과정들이 필수로 수반됩니다. 또, 최신 기술도 매우 중요하지만 이를 위해서는 기초기술에 대한 이해부터 출발해야 하는 경우들이 있습니다. 이런 부분들을 고려하여 기초와 기본에 충실하면 좋은 결과가 있을 것이라고 생각합니다.

 

 

 

 

지금까지 서대웅 매니저님과의 인터뷰를 통해 생성형 AI 프로젝트 경험, 금융권에 적용할 때의 고려점, AI 공부법 등 알찬 QnA 시간을 가져보았는데요! 2024년에는 SK ㈜ C&C가 생성형 AI 부문에서 어떻게 활약할지, 앞으로도 관심과 기대 부탁드립니다☺️ 해당 분야에 관심이 있는 독자 분들께도 많은 도움이 되었길 바라며, 다음 편인 ‘AI Project Based Learning : Why? How?’로 돌아오겠습니다 : )