Sistema que administra o café também fez pedidos de produtos que nem fazem parte do cardápio, como tomates enlatados. AP Photo/James Brooks O café pode até ser servido por mãos humanas, mas, por trás do balcão, algo bem menos tradicional comanda as operações em um café experimental em Estocolmo. A startup Andon Labs, sediada em São Francisco, colocou uma agente de inteligência artificial, apelidada de "Mona", no comando do Andon Café, que leva o mesmo nome, na capital sueca. 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 Embora baristas humanos ainda preparem o café e atendam os clientes, a IA — alimentada pelo Gemini, do Google — supervisiona quase todos os outros aspectos do negócio, desde a contratação de funcionários até o controle de estoque. Ainda não está claro quanto tempo o experimento irá durar, mas a agente de IA parece enfrentar dificuldades para gerar lucro no competitivo mercado de cafés de Estocolmo. Desde a inauguração, em meados de abril, o estabelecimento faturou mais de US$ 5.700, mas restam menos de US$ 5.000 do orçamento inicial, que ultrapassava US$ 21.000. Grande parte dos recursos foi consumida nos custos de abertura, e a expectativa é de que, com o tempo, as finanças se estabilizem e o negócio passe a operar no azul. Muitos frequentadores consideraram a experiência curiosa e divertida. No local, os clientes podem usar um telefone disponível no café para fazer perguntas ao sistema responsável pelo atendimento. “É interessante ver o que acontece quando se ultrapassam os limites”, disse a cliente Kajsa Norin. “A bebida estava boa.” Especialistas, no entanto, demonstram preocupação com o papel da inteligência artificial no futuro. Eles apontam uma série de questões éticas, que vão desde o impacto da tecnologia na sociedade até seu uso em processos como entrevistas de emprego e avaliação de desempenho de funcionários. Emrah Karakaya, professor associado de economia industrial no Instituto Real de Tecnologia KTH, em Estocolmo, comparou o experimento a “abrir a caixa de Pandora” e afirmou que colocar a IA no comando pode gerar diversos problemas. Ele questiona, por exemplo, quem seria responsabilizado caso um cliente sofresse uma intoxicação alimentar. “Se não houver uma estrutura organizacional adequada e esses erros forem ignorados, isso pode causar danos às pessoas, à sociedade, ao meio ambiente e aos negócios”, disse Karakaya. “A questão é: estamos dispostos a lidar com esse impacto negativo?” “Chefe” robô já comprou mais de 6 mil guardanapos e esqueceu de encomendar pão para os sanduíches AP Photo/James Brooks Fundada em 2023, a Andon Labs é uma startup focada em segurança e pesquisa em inteligência artificial. A empresa afirma ter como objetivo testar o desempenho de agentes de IA em situações reais, oferecendo “ferramentas e recursos financeiros reais”. A startup já trabalhou com empresas como OpenAI, criadora do ChatGPT, Anthropic, Google DeepMind e xAI, de Elon Musk, e se prepara para um cenário em que organizações possam ser administradas de forma autônoma por sistemas de IA. O café na Suécia é apresentado como um “experimento controlado” para investigar como essa tecnologia poderá ser aplicada no futuro. “A IA terá um papel importante na sociedade, e queremos entender quais questões éticas surgem quando ela passa a empregar pessoas e administrar um negócio”, afirmou Hanna Petersson, integrante da equipe técnica da Andon Labs. O laboratório já havia conduzido projetos-piloto nos quais a IA Claude, da Anthropic, foi responsável pela gestão de uma máquina de vendas automáticas e de uma loja de presentes em São Francisco. Nesse teste, foram observados comportamentos preocupantes: o sistema prometia reembolsos que não eram realizados e também fornecia informações falsas a fornecedores sobre preços da concorrência para obter vantagem. Além de contratar funcionários e controlar o estoque, o “gerente” não humano envia mensagens aos baristas até fora do horário de trabalho. AP Photo/James Brooks Agente de IA enfrenta dificuldades com pedidos de estoque Segundo Petersson, Mona começou a operar após receber algumas instruções básicas. A equipe orientou que ela deveria administrar o café de forma lucrativa, manter uma comunicação amigável e resolver sozinha as questões operacionais, solicitando novas ferramentas sempre que necessário. A partir disso, a empresa firmou contratos de eletricidade e internet e obteve as licenças necessárias para manipulação de alimentos e instalação de mesas ao ar livre. Em seguida, o sistema divulgou vagas de emprego no LinkedIn e no Indeed e abriu contas comerciais com atacadistas para a compra diária de pães e outros produtos de padaria. A comunicação com os baristas ocorre via Slack, muitas vezes com mensagens enviadas fora do horário de trabalho — o que contraria as práticas profissionais comuns na Suécia. Outros problemas também surgiram, especialmente relacionados ao controle de estoque. A IA chegou a encomendar 6 mil guardanapos, quatro kits de primeiros socorros e 3.000 luvas de borracha para o pequeno café — além de tomates enlatados que não fazem parte de nenhum item do cardápio. E há ainda a questão do pão: em alguns dias, o sistema faz pedidos em excesso; em outros, não encomenda o suficiente, obrigando os baristas a retirar sanduíches do menu. Petersson afirmou que essas falhas provavelmente estão ligadas às limitações de memória do sistema. “Quando registros antigos deixam de ser considerados, ela simplesmente esquece o que já pediu”, explicou. O barista Kajetan Grzelczak afirma não se preocupar, por ora, com a possibilidade de ser substituído por uma inteligência artificial. “Os trabalhadores estão praticamente seguros”, disse. “Quem deveria se preocupar são os cargos intermediários, especialmente na gerência.”
