2023 Google Summit in Seoul - PaML, HD현대사례

 

안녕하세요. 밤고래입니당

오늘은 저번 오전세션에 이어 오후세션을 이어가고자합니다.

 

 

2023 Google Summit in Seoul - 오전세션

 

 

이번 오후세션도 요약하면 아래와 같습니다.

 

 

가장 인상적이었던 3줄 요약 

- AI 기술의 발전은 지금 이 순간에도 빠르게 진행되고있다

- HD현대의 AI를 활용한 인텔리전트 콜센터 Usecase

- PaLM2 의 존재를 알게됬다. 구굴의 LLM 기술이 집약된 기업용 생성형 AI

 

 

 

Track 1: AI And Collaboration Cloud

세션1 - Parm2 기업용 생성형AI

바드는 일반 유저

 

 

유용한 AI 솔루션은 뭐가 있을까? usecase

Model Garden - 개방향 통합 AI 개발 생태계

Vertex AI Search - 기업 내의 다양한 검색 시스템과 연계(Symantic Search)

Vertex AI Conversation - 챗봇시스템에 생성형 AI 추가

PaLM API 그라운딩 서비스

내부 직원들에게 서비스 제공할 때 많이 사용

 

 

고려사항 - 사용자 컨텍스트 이해

 

 

세션2 - Generative AI 로 만드는 대화형 지식 검색 시스템 (김진철)

Vertex AI Search

Vertex AI Vector Search

Embedding API

 

 

 

이미지로 제품을 검색 - 디지털 제품 카탈로그

 

 

세션3 - LLM 튜닝

프롬프팅?

AI에게 일을 지시하는 일련의 과정을 프롬프팅이라고 부릅니다.

우리가 AI에게 지시들(프롬프트)를 말하면 AI는 일을 실행합니다.

프롬프트들은 간단하게는 질문에서 복잡하게는 여러 줄의 문단이 될 수도 있습니다.

 

 

🟢 프롬프팅 | Learn Prompting: Your Guide to Communicating with AI

 

프롬프트의 기초 – Nextra

프롬프트 엔지니어링만 가지고 모든 태스크를 하는데는 한계가 있다…

Task-specific Tuning 으로 개선

RLHF - 정답이 없는 LLM 튜닝?

 

 

세션4 - GenAI(클루커스)

Vector DB?

 

세션5 - GenAI 챗봇 기반 인텔리전트 콜센터 HD현대 AI전략팀 이정민 M

 

기존의 현대중공업 - 조선, 건설기계, 에너지 3가지 부문

AI 관련기술의 속도가 굉장히 빠르고 연구와 혁신의 중심에 있다

HD현대도 그룹사차원에서 GenAI 전략 방향성 수립

파트너사 선정에 있어서 가장 중요하게 생각한 것은 '보안' (리더쉽에서도 가장 걱정한 포인트)

HD현대에서 가지고 있는 데이터는 대부분 국가보안데이터

프로토타입을 먼저 리더들에게 보여드린 것에 훨씬 공감도가 높았음

 

[인텔리전트 콜센터]

후처리시간 반정도 감소

상담역량 상향 평준화

Google Bard PaLM 을 이용하여 구축

 

 

 

건설기계 상담 녹취 데이터를 GCS에 임포트시키고 빅쿼리를 이용

답변 자유도, 현재 콜센터 업무에 다 들어가있음, 속도개선예정, 대리점/딜러에서도 활용할 수 있도록 추진하고자함

 

 

 

기술이 알아서 해주겠지라는 안일한 생각으로 하면 안됨

민첩성과 유연성이 가장 중요, 실험적 문화가 사내에 있으면 좋음

정량적 효과 산출할 때, KPI 수립에 큰 도움

 

 

 

[중요 성공 팩터]

양질의 데이터(Data Readiness)

Appropriate Tools & Resources

“Right” Use case/Scenario

Cross-functional Collaboration - 구축조직과 현업과의 밀접한 커뮤니케이션과 관계형성, 현업

구축하는 과정에서도 Gen AI 기술이 쏟아져 나왔음…

Google 과 LG CNS 에서 큰 서포트를 받음

 

 

여기까지 읽어주셔서 감사합니다.