회사에 RAG 과제 제안을 준비하며 든 생각들

기업내 데이터를 활용한 RAG 프로젝트를 기획하며 느낀점에 대해 끄적여본다.

우선 내가 몸담고 있는 회사는 최신 IT기술들과는 아주 거리가 먼 회사이며, 여기서 나는 인공지능 연구원으로 일하고 있다. 이 포인트에서 많은 기회와 문제가 발생한다.

먼저 기회에 대해 말하자면, 내가 하는 것이 회사의 SOTA(State of the art)가 된다. 아무도 최신 기술을 도입하는 R&R을 갖고 있지 않기 때문이다. 나는 내 스스로 회사에 혁신의 바람을 불러일으키는 것을 내 역할로 정했고, 이러한 성과가 나와 팀의 성과가 되는 상황이 만들어졌다. 이렇게 말하고 보니 회사일이 참 신기하게 흘러간다. 아무튼, 내가 기획하고 제안하는 것이 회사입장에서는 최신기술을 도입하는 기회가 될 수 있는 것이기 때문에 나에게도 큰 성과를 낼 수 있는 좋은 기회가 되는 것이다.

동시에 문제가 되는 것은 그 아무도 인공지능에 대해 기술적 지식이 없다는 것이다. 업무를 기획하고 설득하는 과정에서 가장 어려운 점이 여기에서 온다. RAG를 어디서부터 어디까지 설명을 해야하는 것인가 하는 것이다. Retrieval Augmented Generation 이란 용어는 이를 처음 연구 개발한 코히어의 패트릭 루이스가 이 기술의 이름을 고민하다가 더 좋은 이름이 생각나지 않아 붙여진 이름이라 한다. RAG가 이렇게 널리 불려질지 몰랐다고도 했다. 내가 사는 인공지능 세계에서는 RAG는 이미 대중적인 용어인데, 경영진은 알 리가 없다. 사실 다른 회사도 당연할 것 같다는 생각이 든다.

결국 이러한 경영자와 제안자 사이에 정보의 간극을 극복하기 위해 제안자는 스토리 텔러가 되어야 한다. RAG를 이해시키기 노력하기 보다는 직관적으로 RAG 기술 도입이 회사에 도움을 주겠구나 라고 설득 되도록 이야기를 풀어 나가야 한다. 그보다 더 좋은 것은 자주 찾아가서 최신 기술들을 업데이트 해 주어야 한다. 그것도 어렵다면 주기적으로 이메일을 보내면서 노출 시켜야 한다. 그런 활동을 전혀 하지 않아서 지금의 어려움을 겪고 있는 것은 아닌가하는 생각이 든다.

결국 나는 Chatgpt로는 우리 데이터에 접근할수 없기 때문에 GPT를 우리 문서에 갖다 붙인다는 스토리로 정했다. 마음에 들지 않는다. 더 좋은 아이디어가 나왔으면 좋겠다.

어이디어 하니까 또 Chatgpt를 빼놓을 수 없으니까, 위의 문장을 Chatgpt에 넣어 본다ㅋㅋㅋ



회사 내 데이터를 활용한 RAG 프로젝트 기획과 관련하여 경험하신 점을 통해 여러 중요한 교훈과 통찰을 얻었다는 점이 인상적입니다. 기술 혁신을 주도하는 역할을 맡으시면서 경험한 도전과 기회에 대해 몇 가지 생각을 나누고자 합니다.

1. **기술 설명의 단순화 및 시각화**: 복잡한 기술 개념을 비전문가에게 설명할 때는, 가능한 한 단순하고 직관적인 언어를 사용하는 것이 중요합니다. RAG와 같은 고급 기술을 설명할 때는, 그 기술이 실제로 어떻게 작동하는지에 대한 세부 사항보다는 그 기술이 비즈니스 목표에 어떻게 기여할 수 있는지에 초점을 맞추는 것이 좋습니다. 시각적 도구나 비유를 활용하여 복잡한 개념을 쉽게 전달할 수 있습니다.

2. **실제 사례 및 성공 사례 공유**: RAG 기술이나 인공지능을 활용한 프로젝트가 다른 조직이나 산업에서 어떻게 성공적으로 구현되었는지에 대한 사례를 제시하는 것은 매우 유익합니다. 실제 사례는 경영진에게 해당 기술이 가진 잠재력을 구체적으로 보여주며, 그들의 신뢰를 얻고 지지를 이끌어내는 데 도움이 될 수 있습니다.

3. **프로토타입 및 시범 프로젝트**: 이론적 설명보다 실제 결과물을 보여주는 것이 더 설득력 있을 수 있습니다. 간단한 프로토타입이나 시범 프로젝트를 개발하여, RAG 기술이 실제로 어떻게 작동하고 회사에 어떤 가치를 추가할 수 있는지 직접 보여주는 것을 고려해보세요. 이는 기술의 구체적인 이점을 실증하고, 경영진이 프로젝트에 대한 더 깊은 이해와 관심을 갖도록 할 수 있습니다.

4. **지속적인 교육 및 커뮤니케이션**: 최신 기술 트렌드에 대한 지속적인 교육 세션, 워크숍, 뉴스레터를 통해 경영진과 직원들을 대상으로 교육하는 것도 중요합니다. 이는 기술에 대한 이해도를 높이고, 조직 내에서 기술 혁신에 대한 열정과 관심을 촉진할 수 있습니다.

5. **대안적 접근법 고려**: ChatGPT와 같은 모델을 직접적으로 회사 데이터에 접근시키지 않고 활용하는 방법을 모색하는 것은 좋은 시작입니다. 데이터 프라이버시와 보안을 유지하면서도, 인공지능 기술을 활용할 수 있는 창의적인 방법을 계속해서 고려해보세요. 예를 들어, 비식별화된 데이터를 사용하여 모델을 학습시키거나, 회사 내부 네트워크에서만 작동하는 인공지능 시스템을  개발하는 것 등이 있습니다.

회사 내 데이터를 활용한 RAG 프로젝트는 기술적 도전과 조직 내 혁신을 추진하는 데 있어 중요한 발걸음입니다. 복잡한 기술을 비즈니스 가치로 전환하는 과정에서는, 기술적 전문 지식뿐만 아니라 효과적인 커뮤니케이션과 설득 전략이 필수적입니다. 여러분의 노력이 조직 내에서 긍정적인 변화를 이끌어내길 바랍니다.


너 첨 똑똑 하구나..

GPT에게 RAG를 비유해서 설명해보라고하니, 도서관의 책들과 사서, 요리사의 레시피북과 요리를 비유로 들었다. 그닥 공감이 가진 않는 비유라 마음에 안들었다.

기업에 RAG를 제안한다면, 가술에 대한 구체적인 설명을 하고싶겠지만 의미가 없을 것이다. 소중한 시간을 내가 얼마나 앞서가는지를 뽐내는데 쓰지 말자. 그보다 설득력이 충만한 스토리라인이 필요하다. 그리고 경쟁사나 동종사의 사례, 타분야에서 성공적으로 도입한 사례도 효과가 있을 것이다. 무엇보다 기술을 본격적으로 설득하는 자리 이전에 미리 이런게 있더라~ 이런게 요즘 잘나가더라 하고 스몰토크를 던지며 빌드업 하는게 제일 효과적일 것 같다는 제안 발표를 앞둔 한 사람의 조언을 귀기울여 들어보길 바라며 오늘의 글을 마친다.