나쁜 고양이와 신뢰할 수 있는 에이전트: 비영리 직원은 무료 교육을 통해 AI 도구에 대한 통찰력을 얻습니다.

윌킨스버그에 있는 존스턴 초등학교의 반향이 심한 교실에서는 여섯 명이 긴 테이블 주위에 앉아 나쁜 고양이를 찾고 있습니다.

강사 Samantha Finkelstein은 이 용어를 사용하여 ChatGPT와 같은 대규모 언어 모델이 작동하는 방식을 설명합니다. “나쁜 고양이”는 채팅봇의 정보 기반 외부에 있는 질문이나 사실입니다. 이를 찾는 것은 모델이 할 수 있는 것과 할 수 없는 것을 보여주는 데 도움이 됩니다.

예를 들어, AI 모델이 검은 고양이 사진만 사용하여 학습했다면 나중에 주황색 고양이를 인식하지 못합니다. 수학이 아닌 언어를 바탕으로 구축된 모델로는 예산을 만들 수 없습니다.

비영리 단체의 공공 기술 이니셔티브 책임자인 Finkelstein 커뮤니티 포지세 부분으로 구성된 AI 활용 능력 및 윤리 과정을 이끌고 있습니다. 이 과정은 Carnegie Mellon이 주도하는 파트너십의 일부입니다. 인공지능 오픈포럼.

점점 더 많은 사람들이 인공지능 도구를 사용하고 있어요 직장에서; 일부는 선택에 의해, 다른 일부는 압력을 받고 있습니다.

기술 윤리에 대한 배경 지식이 있고 CMU에서 가르치는 Community Forge 전무 이사 Mike Skirpan은 사람들이 AI에 좌절하거나 나쁜 결과를 얻는 것을 보고 이 교육 프로그램이 시작되었다고 말했습니다.

Skirpan은 또한 기업과 비영리 단체를 위한 맞춤형 AI 에이전트 구축을 제안하는 회사의 증가에 대해서도 우려했습니다.

Skirpan은 “그들은 솔직히 말해서 쓰레기였습니다.”라고 말했습니다.

실제로 매일 작업을 수행하는 사람들은 외부 회사보다 스스로 훨씬 더 나은 도구를 만들 수 있다고 Skirpan은 말했습니다. 단지 방법을 배우기만 하면 됩니다.

Skirpan은 사람들에게 AI 활용 능력, 일부 작업을 쉽게 하거나 자동화할 수 있는 에이전트를 구축하는 방법, 이러한 에이전트가 유용하고 신뢰할 수 있는지 평가하는 방법을 가르치기 위해 이 세 부분으로 구성된 과정을 구축하기 시작했습니다.

Skirpan은 연방 정책 및 자금 전환으로 인한 혼란을 우려하고 있기 때문에 이 과정은 비영리 단체 및 정부 직원에게 무료로 제공됩니다.

Skirpan은 “여기서 궁극적인 손실은 우리가 AI를 도입했기 때문에 인간 서비스와 사회 부문의 질이 향후 10년 동안 악화된다면 이는 실질적인 위험이라고 생각합니다”라고 말했습니다. “그러면 우리 모두는 패배하고 가장 취약한 사람들에게 상처를 입힙니다.”

올바른 도구를 선택하고 사용하는 방법

수업에 참여하는 학생들은 교육, 예술, 건설 등 다양한 분야에서 일하고 있습니다. 그들 중 일부는 AI 도구를 사용해 왔지만 이를 사용하는 최선의 방법을 확신하지 못합니다.

Evan Varrato는 어떤 도구가 그룹의 임무에 도움이 될 수 있는지 이해해야 한다는 책임감을 느끼기 때문에 이 과정을 수강하고 있습니다. 그는 저소득층을 위한 주택 재활 단체인 Rebuilding Together Pittsburgh의 건설 책임자입니다.

그는 유용한 도구라도 올바르게 작동하지 않으면 손상을 일으킬 수 있다고 말했습니다.

“프로젝트 현장에 가서 원형 톱을 사용할 예정이라면 실제로 사람들이 그것을 사용하도록 하기 전에 누군가에게 그 도구를 사용하는 방법을 가르치는 데 시간이 좀 걸릴 것입니다. “라고 Varrato는 말했습니다.

Finkelstein은 OFAI의 DARE 플랫폼을 사용하여 AI 에이전트를 만드는 단계를 그룹에 안내했습니다. 학생들은 도구가 어떻게 작동해야 하는지에 대한 사용자 매뉴얼과 작업과 관련된 문서를 업로드할 수 있습니다. 아마도 그것은 에이전트가 가져오기를 원하는 정보가 포함된 사명 선언문이나 문서일 수 있습니다.

다음으로 학생들은 다양한 프롬프트를 실험해 볼 수 있습니다. 상담원에게 브레인스토밍을 도와달라고 요청할 수도 있고 조언자처럼 질문을 할 수도 있습니다.

인기 있는 챗봇은 언어 패턴을 찾기 때문에 사람들이 대화하는 방식이 중요하다고 Finkelstein은 말했습니다.

Finkelstein은 “당신이 그들과 어떤 유형의 대화를 나누고 싶은지 설명하면 그들이 당신과 소통하는 방식을 형성할 수 있으며, 이는 당신이 얻는 결과물의 품질과 관련성에 큰 영향을 미칩니다”라고 Finkelstein은 말했습니다.

Crossroads Foundation에서 모금 활동을 하고 있는 Kristin Kalson은 재빨리 “나쁜 고양이”를 발견했습니다. 그녀는 에이전트에게 이것이 자신의 업무에 어떻게 도움이 될 수 있는지 물었고 에이전트는 재단의 모든 기부자 정보를 업로드할 것을 제안했습니다.

“이것은 사람들의 기밀을 유지하고 수행하는 임무와 정반대입니다. 따라서 이것은 분명히 약간의 수렁입니다”라고 Kalson은 말했습니다.

추가 메시지가 표시되자 상담원은 개인 정보 보호를 위해 Kalson에게 원시 데이터를 업로드하지 말 것을 권고했습니다.

AI를 책임감 있게 사용하는 것은 강좌 강사에게 중요합니다. 그 중 일부는 모든 것을 신뢰하지 않고 특정 작업으로 사용을 제한하는 것입니다.

Skirpan은 AI를 전략적으로 사용하면 인간의 자율성을 최대한 유지하는 데 도움이 될 수 있다고 말했습니다.