AI가 생성한 책은 피츠버그를 비롯한 실제 작가의 아마존을 복잡하게 만들고 있습니다.

전 월스트리트 저널 기자인 존 밀러(John Miller)는 평생 야구 팬입니다. 그는 메릴랜드의 가족 덕분에 벨기에에서 볼티모어 오리올스에 대한 특별한 애정을 갖고 자랐습니다.

최근에는 피츠버그에 거주하는 밀러는 전설적인 오리올스 감독 얼 위버(Earl Weaver)의 전기를 연구하고 집필하는 데 3년을 보냈습니다. 그는 신문 기록 보관소를 뒤지고 전국을 돌아다니며 논쟁적이면서도 혁신적인 것으로 유명한 선장을 알고 있거나 알고 있던 사람들과 200회 이상의 인터뷰를 진행했습니다.

Miller의 첫 번째 책인 “The Last Manager”는 야구 시즌에 맞춰 2025년 3월 Simon & Schuster에서 출판되었습니다. 그러나 Amazon에서 짧은 검색을 통해 알 수 있듯이 빠르게 회사를 찾았습니다.

밀러는 “제목을 입력했는데 놀랍게도 내 책이 9가지 다른 버전으로 나왔는데 그 중 어느 것도 내가 쓴 것이 아니었습니다.”라고 말했습니다.

이 책에는 “Earl Weaver: The Science of Rage”, “The Life and Legacy of Earl Weaver”, 그리고 독일어로 된 “Earl Weaver Biografie”와 같은 제목이 있었습니다.

Earl Weaver는 1986년에 야구계에서 은퇴했고 2013년에 사망했습니다. 아마도 그에 관한 다른 책 중 8권은 Miller의 “Last Manager”가 나온 지 몇 달 후에 출판되었습니다. 하나는 실제로 몇 주 전에 아마존을 강타했습니다.

밀러는 이 책들이 모두 생성 인공 지능에 의해 만들어졌다고 판단했습니다. 그가 아는 한, 그 중 “The Last Manager”나 Weaver에 관한 다른 글을 완전히 표절한 책은 없었고 대부분은 장편으로 보였습니다.

오히려, AI 소프트웨어가 명예의 전당에 관한 이 책들을 뱉어내도록 유도한 사람은 누구든지 아마도 몇 초 또는 몇 분 안에 생성되었을 것으로 추정되는 이 책들을 단순히 밀러가 3년 동안 땀을 흘려 비평가들의 찬사를 받은 전기의 성공을 활용하고 있는 것처럼 보였습니다.

Allderdice High School의 수석 야구 코치이기도 한 Miller는 “그들은 내 책이 불러일으킨 관심을 이용하여 돈을 벌려고 노력하고 있습니다.”라고 말했습니다.

‘불공정 경쟁’

이와 같은 짝퉁 책은 아주 새로운 현상은 아니지만 점점 늘어나고 있는 것 같다고 17,500명의 회원을 보유한 옹호 단체인 Authors Guild의 CEO인 Mary Rasenberger는 말합니다.

Rasenberger는 “현재 시장에는 AI로 생성된 도서에 대해 불공정 경쟁이라고 부르는 일이 많이 일어나고 있습니다.”라고 말했습니다.

AI의 의도하지 않은 결과를 연구하는 카네기 멜론 대학의 비즈니스 기술 및 마케팅 교수인 Param Singh은 “분명히 더 많은 것이 있습니다”라고 말했습니다. “Google에서 ‘AI 기반 도서’를 검색하면 수백 개의 웹사이트 등 아주 최소한의 아이디어로 책을 만드는 방법을 보여주는 웹사이트가 많이 나올 것입니다.”

그러한 모조품 문제는 원저자의 허가 없이 텍스트에 대해 훈련되는 LLM(대형 언어 모델)에 대해 더 널리 알려진 문제와는 다릅니다. 이 문제에 대한 여러 소송이 진행 중이며 그중 하나인 Anthropic을 상대로 한 집단 소송이 9월에 해결되었습니다. (저자는 관련된 책 50만 권당 약 3,000달러를 받게 됩니다.) Authors Guild 자체도 OpenAI를 상대로 한 유사한 소송의 원고 중 하나입니다.

Singh은 Amazon의 비즈니스 모델이 이와 같이 작동한다고 말했습니다. AI 계정(ChatGPT Plus 계정 비용은 한 달에 약 20달러)을 가진 누군가가 Earl Weaver에 관한 책을 쓰라고 지시합니다. 해당 책을 Amazon에 게시하는 것은 무료이며 판매용 버전은 일반적으로 “The Last Manager”의 30달러 양장본보다 저렴합니다. 아마도 단행본의 경우 14.99달러이고 Amazon 소유 Kindle Store의 버전은 훨씬 더 낮을 것입니다.

책의 실제 사본이 판매된 경우 주문형으로 인쇄할 수 있으므로 출판사에 사전 위험이 없습니다. 모든 판매는 거의 순수한 이익입니다.

실제로 Singh은 Kindle Unlimited를 사용하면 소비자가 특정 책의 몇 페이지만 읽어도 출판사가 몇 센트를 벌 수 있다고 말했습니다. “그래서 결국 이 책을 수천 권 가지고 있다면 꾸준한 수입을 얻을 수 있을 것입니다.”라고 그는 말했습니다. “책 전체를 팔 필요도 없어요.”

Singh은 아마존에 있는 수백만 권의 책 중 AI가 생성한 책이 얼마나 되는지 알 수 없다고 말했습니다. 일부는 스스로를 인간이 작성한 제목의 “요약”이라고 광고합니다.

복제 현상이 사람이 만든 타이틀의 판매를 얼마나 감소시키는지도 불분명합니다.

그러나 Miller가 말했듯이 “그렇지 않을 리가 없습니다.”

그의 책은 양장본으로 여러 장 인쇄된 베스트셀러입니다. 그런데 최근 아마존에서 ‘얼 위버’를 검색하면 높은 고객 평점에도 불구하고 ‘라스트 매니저’가 3위에 올랐다. 1위는 ‘Earl Weaver Biografie’와 ‘The Science of Rage’였습니다.

‘빌 존스’의 이상한 사례

사람이 쓴 책을 앵무새로 삼는 논픽션 제목은 너무 가짜이기 때문에 명백한 가짜처럼 보일 수 있습니다. 일부는 본질적으로 표지 디자인이 전혀 없거나 AI가 생성한 오리올스 유니폼을 입은 남성의 사실적인 이미지를 사용합니다. 이 이미지는 엉뚱하고 백발의 나이 많은 위버처럼 보입니다.

“얼 위버의 삶과 유산”의 만화 같은 표지 그림은 위버가 수염을 기른 젊은 조지 클루니와 닮았음을 암시합니다.

종종 저자의 신용이 단서가 됩니다. “Earl Weaver: The Science of Rage”는 대학 스포츠부터 버번, 실제 범죄, “소형 모듈형 원자로”에 이르기까지 다양한 주제에 대해 현재까지 약 375개의 Amazon 타이틀을 보유하고 있는 “Bill Johns”의 작품입니다. Johns의 또 다른 타이틀: “The Confidence Game: Swindlers, Grifters and the Architects of Trust.”

밀러는 “나는 이 사람을 찾으려고 노력했지만 찾을 수 없었다”고 말했다. “그 사람은 꾸며낸 사람이에요.”

“The Science of Rage”가 단독으로 출판된 지 몇 달 만에 “Bill Johns”(그의 저자 페이지에는 AI로 생성된 사진이 포함되어 있으며 체서피크만 지역에 살고 있다고 나와 있음)는 Weaver에서 뛰었던 몇몇 선수를 포함하여 볼티모어 스포츠 인물에 관한 12권의 책을 출판했습니다.

그러한 책의 산문은 문법적으로는 정확하지만 일반적으로 수사학적으로 반복적이며 종종 모호하게 표현되고 때로는 사실적으로 부정확합니다. (AI 작가들도 두운을 지나치게 좋아하는 것 같지만, 일부 인간 작가들도 마찬가지다.)

그러나 그러한 책은 일반적으로 불법이 아닙니다.

‘당신은 신뢰를 잃게 될 것입니다’

Authors Guild CEO Rasenberger는 “우리는 침해 도서에 대한 관심을 가져오면 아마존에서 해당 도서를 내리게 하는 관계를 맺고 있습니다.”라고 말했습니다.

하지만 아마존은 AI가 만든 책을 직접적으로 만들지는 않습니다. 그리고 이로 인해 Miller와 같은 작가는 의지할 곳이 거의 없게 될 수 있습니다.

Miller의 출판사인 Simon & Schuster를 포함하여 소위 Big Five 도서 출판사 중 누구도 AI 도서에 대한 논평 요청에 응답하지 않았습니다. 그러나 일부 관찰자들은 문제를 해결하는 방법을 제시합니다.

CMU의 Singh은 Amazon이 책을 게시하는 데 소액의 수수료를 부과하기 시작할 것을 제안합니다. 타이틀 당 10달러라도 낮은 이윤을 바탕으로 가짜 포스터를 제작하는 것을 방해할 수 있다고 그는 말합니다.

한편 Rasenberger는 수천 명의 작가가 자신의 책을 “사람이 쓴 것”으로 표시하기 위해 Authors’ Guild 프로그램에 가입했다고 말했습니다. 길드는 또한 이 문제에 대해 출판사와 협력하고 있습니다.

어쨌든 Singh은 뭔가 변화가 필요하다고 예측합니다.

Singh은 “장기적으로 아마존조차도 이로부터 이익을 얻지 못할 것입니다.”라고 예측합니다. “당신이 좋은 책을 찾기 위해 Amazon.com에 가는 사람들 중 하나라면, 이 요약과 같은 내용을 볼 때마다 결국 그에 대한 비용을 지불하게 된다는 점을 기억하십시오. 당신은 Amazon의 추천 시스템은 물론 거기에 있는 콘텐츠 종류에 대한 신뢰를 잃게 될 것입니다.”