생성형 AI? 2023년 SK㈜ C&C의 두번째, 생성형 AI 토탈 서비스 웨비나!

생성형 AI? 2023년 SK㈜ C&C의 두번째, 생성형 AI 토탈 서비스 웨비나!

안녕하세요, SK㈜ C&C 취재기자 정예빈입니다.

SK㈜ C&C가 2023년도 두 번째 웨비나를 열었습니다! 주제는 바로 요즘 굉장히 핫한 생성형 AI와 관련 있는데요. 여러분이 많이 들어보신 ChatGPT가 바로 생성형 AI 중 하나죠. 하지만 생성형 AI의 발전이 빠르게 이뤄지면서 그 활용 방법에 대해서는 생소하실 것 같은데요. SK㈜ C&C는 생성형 AI 기반의 토탈 서비스를 런칭했다고 합니다. 이는 보다 많은 기업들이 생성형 AI를 비즈니스에 잘 활용할 수 있는 방안을 제시했다는 점에서 큰 의미가 있는데요.
그렇다면 본격적으로 서비스에 대한 웨비나와 그 후기를 들려드리겠습니다~! 가보시죠

SK Careers Editor 정예빈

 

 

 

 

 

SK 생성형 AI 토탈 서비스 웨비나는 생성형 AI에 대해 알아보며 시작을 열었습니다.
 
기존에는 성능 좋은 AI를 만들기 위해서 목적에 맞는 데이터를 준비하고 그걸 토대로 AI 모델을 트레이닝 했어야 했습니다. 하지만 초대형 언어모델을 사용하는 AI는 이미 준비가 되어있기 때문에 특정 목적에 맞는 트레이닝 없이도 좋은 성능을 낸다고 합니다. 즉 원하는 결과를 유도해야 할 필요성이 생길 때 약간 형태를 바꾸는 것만으로도 원하는 결과를 얻을 수 있게 된 것이죠. 이러한 생성형 AI는 접근성과 활용성의 증대, 시간과 비용의 절감이라는 두 측면에서 장점을 갖고 있습니다. 결과적으로 사용자가 쉽고 빠르게 반복적으로 사용하며 만들어 나갈 수 있는 것입니다.
이와 같은 장점을 가진 생성형 AI. 다양한 분야의 비즈니스에서는 이를 어떻게 적용하면 좋을 지 고민하고 있는데요. SK㈜ C&C는 이러한 고민에 발 맞춰 생성형 AI 기반 토탈 서비스(Total Digital Service)를 런칭했습니다. 고객사 업에 특화해 생성형 AI 운영 체계를 갖출 수 있게 도와주는 서비스라고 할 수 있죠.
 

 

자연어 대화를 할 수 있는 텍스트 생성하는 ChatGPT나 자연어로 서술된 문장으로부터 이미지를 생성하는 DALL-E는 대표적인 생성형 AI 서비스입니다. 이 둘은 프롬프트(prompt)를 이용한 정보 생성이 목적인데요. 일반 소비자를 대상으로 하기에 품질이나 정확도보다도 다양성이 중요합니다. 그렇기에 생성형 AI는 반복도와 위험도가 낮은 분야에서 활용되기 마련이며 생성된 콘텐츠들을 다시 합성해서 새로운 콘텐츠를 만들거나 인사이트를 도출하는 것이 중요해질 것으로 전망됩니다.
 
하지만 생성형 AI의 한계도 존재합니다. 먼저 Hallucination 및 최신 정보 부재로 부정확한 결과가 나타나죠. 잘못된 사실을 사실처럼 말하거나 학습되지 않은 내용은 답변을 만들어낼 수 없거나 엉뚱한 답변 만들어 냅니다. 두번째로 보안 및 적합성 문제가 있습니다. 일부 임직원이 대외비 같은 자료를 ChatGP에 입력하는 등 보안 문제가 떠올라 기업들은 이에 대응하는 방안을 마련하고 있다고 합니다.
 
여기에 SK㈜ C&C는 기업 내부 데이터로 Knowledge base를 구성하거나 필요에 따라 외부 데이터도 사용하고 당사의 기술인 Accu.TA에 기반해 AI 검색 시스템을 적용함으로써 업무를 효율적으로 할 수 있게끔 돕습니다.

AI Orchestration의 관리 Layer에서는 사용자 관리, 프롬프트 관리 등의 체계를 구축해 악의적인 사용자를 제어하거나 프롬프트(prompt) 모니터링을 통해 적대적인 프롬프트(prompt)를 필터링합니다. 연계 layer는 기존의 도메인 특화 서비스나 Legacy Service과의 연동체계로, 이를 통해 최종적으로 실제 업무와 연계된 시스템을 구축할 수 있게 됩니다. 이처럼 SK㈜ C&C는 생성형 AI를 활용한 기업용 엔터프라이즈 서비스를 제공하고자 합니다.
 
여기서 자주 나오는 용어인 프롬프트(Prompt)란 무엇일까요?
 

 

프롬프트(Prompt)란 컴퓨터 명령 중 대기모드로 생성형 AI는 프롬프트(prompt)상에서 사용자의 텍스트를 입력 받고 결과를 출력하는 인터페이스를 가지고 있습니다.
 
우리가 흔히 사용하는 web이나 app 서비스는 주어진 UI에서 키보드, 마우스와 같은 IO 인터페이스로 상호작용을 한다면, 생성형 AI는 사람의 언어로 상호작용을 한다는 점이 특징적이죠. 사람의 언어를 사용하므로 보다 사용이 간편하다는 장점이 있습니다. 이렇게 간단한 만큼 정확한 프롬프트를 활용해야 정확한 정보를 얻을 수 있어요.
 
생성형 AI 답변에 영향을 주는 요소들 – API의 AIP Parameter / Prompt의 Instruction, context, output indicator, input data
API의 AIP Parameter : temperature와 top은 다양성을 조절하는 값으로 높을수록 보다 창의적인 답변이 가능. Frequency, penalty는 희귀성과 관련있는 값으로 높을수록 일반적이지 않은 단어를 사용하게 됨. Presence와 penalty는 유사하거나 동일한 어휘, 사용빈도와 관계 있는 값으로 높을수록 앞선 단어와 비슷한 단어 사용함.
 
사용자가 직접 입력하는 prompt
Prompt의 Instruction, context, output indicator, input data
 
Instruction : 분류, 요약, (~해줘) 역할부여(~처럼 말해줘), 제어(답하기 힘들면 하지마)
Context : 외부 지식/학습데이터에 포함되지 않은 데이터들을 즉석으로 주입
Output Indicator : 차트/숫자표 등 원하는 어휘나 문장 출력
Input data : 유저의 입력, 관심사항
위와 같은 요소들을 적절히 조합하여 용도에 맞는 프롬프트를 생성한다. 이러한 프롬프트도 어떤 방식으로 만들어 내느냐에 따라 달라지기에 이 또한 technique이라고 할 수 있다.
 
Risk – 2가지 정도. 사실성(사실과 다른 답변이나 허위사실을 사실처럼 말하는 Hallucination 현상) / 편향성(한쪽으로 치우친 입력 지속 – 후속 답변도 영향 받음. 그래서 이전에 줬던 instruction이나 context에도 영향 줘 후속 답변 영향 있음.
-> AIP 파라미터 조장과 적절한 prompt로 모델 제어하고 session 재정비하는 과정이 필요함.
 
개인의 경우 생성형 AI의 cycle
Needs에 의해 prompt 입력 – 결과 분석 – prompt 재해석 -> 1회성 경험 / 좋은 사용경험의 공유의 어려움 / 구전으로 관리되는 역량
BUT
상호작용  + 좋은 prompt 저장, 관리 -> 1회성 누적 / 좋은 사용경험 공유
 
SO, SK㈜ C&C는 다양한 domain project를 경험 반영한 prompt 제공할 것.
원하는 요소 선택, 조합할 수 있음. Prompt 생성도 가능하며 지식/샘플도 공유 가능. 부적절한 답변 제어도 가능. 개인 북마크/리뷰 평가 -> 어플리케이션 연계에서도 효율적으로 사용 가능할 것.
 
<<생성형 AI로 이루어 내는 개발 생산성 혁신 AI Coding>>
 
개발지원 도구의 발전 (과거에는 개발 지원 도구가 단순 코드를 자동완성해줬던 반면, 최근에는 인공지능 기술이 접목해 문맥을 고려한 코드 생성이 가능해졌습니다.)
이러한 기술의 역량으로 low-code 및 no-code 시장이 성장하고 있으며 앞으로 더 성장할 것으로 예상됩니다.
 
응용 분야 및 구현 가능한 기능 -> 코드 작업(코드 작성 및 조각 완성, 프로그래밍 언어 변환, 함수 성능 측정등), 검수 가능(잠재 버그 찾기 및 개선, 코드 생성 및 주석 생성)
향후 기대 -> ERD, Service Flow 등의 이미지기반 산출물을 생성하는 Image generation, voice 대화기반의 코드작업 진행 가이드를 도맡은 Speech to text, SI 프로젝트별 특성 및 환경에 특화된 정보를 제공하는 Fine Tuning을 기대합니다.
 
SK㈜ C&C의 구성원들은 어떤 식으로 이를 활용하고 있을까요? 기술적 솔루션 제안 / 문맥을 고려하여 답변 등
 
코드 특화 생성형 AI 서비스를 제공하고자 합니다. 일반화된 AI 모델의 질의와 답변뿐만 아니라 자체 AIP와 prompt를 통해서 사용자별/프로젝트별/고객별 설정을 적용해 그에 맞는 답변을 생성하도록 합니다. 코딩에 도움을 주는 것부터 사용자별 사용기록, API와 질답내용을 수집하여 project 관리자가 진척도와 코드 완성도를 더 쉽게 파악할 수 있는 대시보드도 제공할 것입니다.  
 
<<생성형 AI Workshop>>
생성형 AI를 도입하고자 하는 기업들의 고민을 덜어드리기 위해 Creative workshop을 제안합니다. 워크샵은 생성형AI에 대한 이해와 디자인씽킹 방법론을 접목하여 생성형AI의 새로운 기회를 발굴합니다. 다양한 이해관계자가 협업하여 주어진 문제를 공감하고 생성형AI를 통한 해결방안을 모색하고, 새로운 기회 발굴을 촉진합니다. 이때 발굴한 아이디어는 포로토타입이나 PoC로 Feasibility를 빠르게 검증합니다. 디자인씽킹 워크샵 수행은 워크샵 경험이 풍부한 UX 디자이너들이 직접 설계하고 진행합니다. 게다가 다년간의 프로젝트와 디자인씽킹 워크샵 수행으로 확보한 도구인 “Accu.Design Kit”을 활용하여 각 프로젝트나 사업에 따라 맞춤 설계하고 있습니다.
이러한 Creative AI Workshop은 생성형 AI 적용 상황을 고려한 실효성 있는 아이디어 발굴을 목표로, 빠르고 저렴한 비용으로 아이디어를 프로토타입화하여 생성형 AI 도입에 대한 빠른 의사결정을 지원합니다.
 
<<생성형 AI 기반 DX 역량 강화 프로그램>>
성공적인 디지털 전환을 위한 핵심은 기업경영 전반의 변화관리 주체인 ‘사람’이며, 즉 조직 및 구성원에 대한 입체적이고 통합적인 관점의 구체적 방향과 training이 필요합니다.
트레이닝 서비스인 DX 역량 강화 프로그램은 기업의 디지털 전환 방향과 aline한 DX 역량 거버넌스 설계 컨설팅부터 DX 변화 관리 프로그램, Digital labs 기술교육, 강연 서비스로 구성되어 있습니다. 비즈니스 영역과 기술 영역, 이론과 실습의 전 영역을 아우르고 있습니다.
(간략한 프로그램 사례)
 
특징
1)    기업의 DX 추천 방향성에 따라 역량 로드맵 수립
2)    현장 데이터를 활용한 현장 맞춤형 교육으로 실무에 바로 적용 가능
3)    Project=based learning 실습기반 코칭
4)    인재 발굴 및 biz 문제 해결을 위한 맞춤형 경연 서비스
 
-> 1st 생성형 AI 교육 프로그램.
생성형 AI 기반 기업형 서비스 개발 지원 및 코칭
-prompt engineering 과정. 이해부터 hands-on 실습까지. => 생성형 AI 모델 활용 능력 강화로 개인 및 조직의 업무 생산성 향상과 문제해결을 위한 새로운 아이디어와 관점 확대.
-생성형AI를 활용한 서비스 개발. 라이브 코딩 시연부터 코칭까지 기업형 서비스 개발.
 

더 자세한 내용은 SK DT Channel의 “ChatGPT와 같은 생성형 AI로 비즈니스에 혁신을 이루는 방법 - 웨비나 다시보기”에서 확인 가능합니다.

 
 

 

 

지금까지 SK㈜ C&C의 2023년 두 번째 웨비나, SK 생성형 AI 토탈 서비스 웨비나의 소식에 대해 알아보았는데요. 다들 어떠셨나요? 웨비나 속 이야기를 들으니 SK㈜ C&C가 주력하고 있는 AI/DATA 분야를 조금 더 심층 깊이 알 수 있었던 시간이었던 것 같습니다.
 
다음 번에도 재미있고 유익한 내용으로 찾아오겠습니다 😊