Amazon remove livros que teriam sido criados por inteligência artificial

Jane Friedman descobriu cinco volumes publicados com seu nome sem o seu consentimento no site
da varejista
https://www1.folha.uol.com.br/ilustrada/2023/08/amazon-remove-livros-que-teriam-sido-criados-
por-inteligencia-artificial.shtml

A Amazon removeu cinco livros gerados por inteligência artificial e publicados sob o nome da
escritora Jane Friedman sem o seu consentimento. Os livros também estavam listados no site
Goodreads, de propriedade de Amazon, de onde também foram tirados.

Embora o conteúdo enganoso tenha sido finalmente removido na terça-feira (8), a autora disse ao
site Gizmodo temer que a falta de políticas claras na Amazon e em outras empresas faça com que
outros escritores enfrentem disputas semelhantes no futuro.
O logo da Amazon em centro de logística da empresa na França - Pascal Rossignol/Reuters

"Eu previ que a Amazon não iria derrubá-los simplesmente pedindo, eu sabia que seria um pesadelo
publicitário", disse Friedman em entrevista ao site de tecnologia. "Felizmente para mim, isso
ocorreu. Mas isso mostra que o problema maior é que isso pode acontecer com qualquer um."

Ao jornal britânico The Guardian, a autora afirmou que o episódio "era como uma violação, porque
é material de baixíssima qualidade com o meu nome".

A autora de Ohio escreveu vários livros sobre a indústria editorial, e os títulos fraudulentos
imitavam seu trabalho real. "Como Escrever e Publicar um E-book Rapidamente e Ganhar
Dinheiro" e "Um Guia Passo a Passo para Criar E-books Atraentes, Construir uma Plataforma de
Autor Próspera e Maximizar a Lucratividade" foram dois dos livros listados.

Os livros reais de Friedman incluem "The Business of Being a Writer", ou o negócio de ser um
escritor, e Publishing 101.

Friedman foi informada dos títulos fraudulentos por meio de um leitor que notou as listagens na
Amazon e lhe enviou um e-mail após suspeitar que os títulos eram falsos.

Tendo tido experiência com ferramentas de inteligência artificial como o ChatGPT, projetado para
criar respostas humanas aos comandos do usuário, Friedman pensou que os livros eram gerados por
IA depois de ler as primeiras páginas. "Eu escrevo em blogs desde 2009 —há muito do meu
conteúdo disponível publicamente para treinar modelos de IA", escreveu ela em seu site.

A Amazon afirmou ao Guardian que tem diretrizes de conteúdo claras que regem quais livros
podem ser listados para venda e que investiga prontamente qualquer livro quando uma preocupação
é levantada. "Investimos fortemente para fornecer uma experiência de compra confiável e para
proteger clientes e autores contra o uso indevido de nossos serviços"

Por que diabos alguém está roubando manuscritos de livros não publicados?

Um esquema de phishing com motivo ou recompensa pouco claros tem como alvo autores, agentes
e editores, grandes e pequenos, confundindo a indústria editorial.
https://www.nytimes.com/2020/12/21/books/publishing-manuscripts-phishing-scam.html
By Elizabeth A. Harris and Nicole Perlroth
21/12/2020
No início deste mês, o site da indústria do livro Publishers Marketplace anunciou que a Little,
Brown publicaria “Re-Entry”, um romance de James Hannaham sobre uma mulher transexual em
liberdade condicional de uma prisão masculina. O livro seria editado por Ben George.

Dois dias depois, o Sr. Hannaham recebeu um e-mail do Sr. George, pedindo-lhe que enviasse o
último rascunho de seu manuscrito. O e-mail chegou a um endereço no site do Sr. Hannaham que
ele raramente usa, então ele abriu sua conta habitual, anexou o documento, digitou o endereço de e-
mail do editor.

“Então Ben me ligou”, disse Hannaham, “para dizer: ‘Não fui eu’”.

Hannaham foi apenas um dos inúmeros alvos de um misterioso esquema de phishing internacional
que tem enganado escritores, editores, agentes e qualquer pessoa em sua órbita para que
compartilhem manuscritos de livros não publicados. Não está claro quem são os ladrões, ou mesmo
como eles podem lucrar com o esquema. Autores de destaque como Margaret Atwood e Ian
McEwan foram visados, juntamente com celebridades como Ethan Hawke. Mas coletâneas de
contos e obras de escritores iniciantes pouco conhecidos também foram atacadas, embora não
tivessem valor óbvio no mercado negro.
Na verdade, os manuscritos não parecem ter acabado no mercado negro, ou em qualquer lugar da
dark web, e nenhum resgate foi exigido. Quando cópias dos manuscritos são divulgadas, elas
simplesmente parecem desaparecer. Então, por que isso está acontecendo?

“O verdadeiro mistério é o fim do jogo”, disse Daniel Halpern, fundador da Ecco, que recebeu esses
e-mails e também se fez passar por eles. “Parece que ninguém sabe de nada além do fato, e isso,
acho que se poderia dizer, é alarmante.”

Seja quem for o ladrão, ele sabe como funciona a publicação e mapeou as conexões entre os autores
e a constelação de agentes e editores que teriam acesso ao seu material. Essa pessoa entende o
caminho que um manuscrito percorre desde a submissão até a publicação e se sente à vontade com
jargões internos como “ms” em vez de manuscrito.

Os e-mails são adaptados para que pareçam ter sido enviados por um agente específico escrevendo
para um de seus autores, ou por um editor entrando em contato com um olheiro, com pequenas
alterações feitas nos nomes de domínio – como penguinrandornhouse.com em vez de
penguinrandomhouse.com, um “rn” no lugar de um “m” - que são mascarados e, portanto, visíveis
apenas quando o alvo responde.

“Eles sabem quem são os nossos clientes, sabem como interagimos com os nossos clientes, onde se
enquadram os subagentes e onde se enquadram os agentes primários”, disse Catherine Eccles,
proprietária de uma agência de prospecção literária em Londres. “Eles são muito, muito bons.”

Este exercício de phishing começou há pelo menos três anos e tem como alvo autores, agentes e
editores em locais como Suécia, Taiwan, Israel e Itália. Este ano, o volume destes e-mails explodiu
nos Estados Unidos, atingindo níveis ainda mais elevados no outono, por altura da Feira do Livro de
Frankfurt, que, como quase tudo este ano, foi realizada online.

Os livros visados incluem “Such a Fun Age”, de Kiley Reid, “The Sign For Home”, de Blair Fell,
“A Bright Ray of Darkness”, de Ethan Hawke, e “Hush”, de Dylan Farrow. Penguin Random House
e Simon & Schuster, duas das maiores editoras, enviaram alertas sobre o golpe.
Cynthia D’Aprix Sweeney, autora do romance de estreia “The Nest”, foi alvo em 2018 de alguém
que fingia ser seu agente, Henry Dunow. Os e-mails começaram cerca de oito meses depois de ela
ter vendido seu segundo romance com base em uma amostra do manuscrito chamada “parcial”.

Muitas vezes, esses e-mails de phishing fazem uso de informações públicas, como ofertas de livros
anunciadas on-line, inclusive nas redes sociais. O segundo livro da Sra. Sweeney, no entanto, ainda
não havia sido anunciado em lugar nenhum, mas o phisher sabia dele em detalhes.

“Olá Cynthia”, começava o e-mail. “Adorei a parcial e mal posso esperar para saber o que acontece
com Flora, Julian e Margot. Você me disse que teria um rascunho nessa época. Você pode
compartilhar?”

A nota pareceu estranha à Sra. Sweeney, então ela a encaminhou para seu agente. “Ele surtou”,
disse ela. Ela não respondeu ao golpista, mas os e-mails continuaram chegando. Finalmente, ela
respondeu, pedindo à pessoa que a deixasse em paz.

Em vez disso, a Sra. Sweeney recebeu esta resposta: “Sou eu, Henry. Como eu poderia saber sobre
o seu novo romance??”

“É tão confuso porque não é como se a ficção estivesse impulsionando nossa economia”, disse
Sweeney. “Em última análise, como você monetiza um manuscrito que não é seu?”

O primeiro livro de Sweeney foi um best-seller, então ela, assim como os autores conhecidos Jo
Nesbo e Michael J. Fox, pode ser uma escolha óbvia. Mas o golpista também solicitou romances
experimentais, coleções de contos e livros vendidos recentemente de autores iniciantes. Enquanto
isso, o livro “Rage”, de Bob Woodward, lançado em setembro, nunca foi alvo, disse Woodward.

“Se isso tivesse como alvo apenas os John Grishams e os J.K. Rowlings, você poderia apresentar
uma teoria diferente”, disse Dan Strone, executivo-chefe da agência literária Trident Media Group.
“Mas quando você fala sobre o valor de um autor estreante, literalmente não há valor imediato em
colocá-lo na internet, porque ninguém ouviu falar dessa pessoa.”

Uma das principais teorias no mundo editorial, repleto de especulações sobre os roubos, é que eles
são obra de alguém da comunidade de escoteiros literários. Os escoteiros organizam a venda dos
direitos dos livros a editoras internacionais, bem como a produtores de cinema e televisão, e o que
os seus clientes pagam é o acesso antecipado à informação – portanto, um manuscrito não editado,
por exemplo, teria valor para eles.
.

Os cibercriminosos comercializam regularmente filmes e livros piratas na dark web, juntamente

com senhas e números de Seguro Social roubados. No entanto, uma ampla pesquisa em canais da
dark web, como o site Pirate Warez, um fórum clandestino para produtos piratas, não rendeu nada
significativo ao pesquisar por “manuscritos”, “não publicados” ou “próximos livros”, ou os títulos
de vários livros roubados.

No passado, os cibercriminosos que roubavam roteiros de Hollywood obtiveram lucro publicando-

os on-line e cobrando taxas de fãs impacientes para acessá-los. Em 2014, alguém postou o roteiro
de Quentin Tarantino para “The Hateful Eight” online, e ele finalmente chegou ao Gawker.
Tarantino ameaçou encerrar a produção antes mesmo de ela começar. Oren Peli, o roteirista da
franquia de filmes “Atividade Paranormal”, viu o esboço de seu roteiro acabar na internet.
Nada disso parece estar acontecendo com os manuscritos dos livros roubados. Aparentemente,
ninguém os postou on-line por despeito ou tentou convencer fãs ansiosos a entregar as informações
de seu cartão de crédito em troca de uma prévia. Não houve pedidos de resgate aos autores por parte
de chantagistas que ameaçaram despejar online os anos de trabalho dos autores se não pagassem.
Nesta ausência, e sem uma estratégia clara de monetização para os esforços dos ladrões, os
especialistas em segurança cibernética ficaram coçando a cabeça.

As pequenas variações dos golpistas em sites registrados são uma tática testada e comprovada.
Numa tentativa de roubar o manuscrito da “Faca” de Nesbo, o ladrão enviou um e-mail de
Salornonsson.com, um domínio concebido para imitar Salomonsson, a agência literária sueca. O
domínio foi registrado no GoDaddy, usando um computador cujo endereço IP nunca havia sido
obtido em golpes de phishing, campanhas de spam ou ataques cibernéticos anteriores. Mas quem
está por trás dos e-mails de phishing está mantendo suas ferramentas atualizadas: eles configuraram
o domínio em junho de 2018 e o registraram novamente em 25 de novembro deste ano.

“O trabalho que eles enfrentaram – fabricar conversas com pessoas de confiança e agir como se
estivessem preenchendo o alvo dessas conversas para garantir credibilidade – definitivamente
demonstra uma segmentação muito específica e provavelmente mais esforço do que vemos na
maioria dos e-mails de phishing. ”, disse Roman Sannikov, analista de ameaças da Recorded Future
a quem o Times pediu para revisar os e-mails.

Os roubos abalaram alguns literatos que antes confiavam nos profissionais do setor editorial. Para
os autores, o que está em jogo é o seu trabalho inacabado, ainda repleto de erros de digitação e
tramas que não sobreviveriam a uma edição final, divulgado antes de estar pronto.

“Você se sente violado”, disse Hannaham. “Não quero que ninguém saiba o quão ruins são os
primeiros rascunhos das coisas.”