Artificial intelligence (AI) has made meteoric progress in recent decades, becoming increasingly sophisticated and capable of performing tasks that were once considered exclusive to humans. However, this evolution has also brought with it some problems, such as the "discovery" of "AI hallucinations". These are confident responses from an AI system that don't seem to be justified by the training data. They can manifest themselves in various ways, such as generating images or videos that don't correspond to reality, translating texts that are incomprehensible or identifying objects or people that don't exist.
SourceAn example of this is the research I did on this topic, asking Bard, Google's AI, about "AI hallucinations", and he replied: *Artificial intelligence (AI) is becoming increasingly sophisticated, and with this comes new possibilities and challenges. One of the most important challenges is to ensure that AI is safe and reliable. One of the ways to ensure the safety of AI is to identify and mitigate the risks of hallucinations. Hallucinations are perceptions that do not correspond to reality, and can be caused by a variety of factors, including mental illness, drugs and neurological disorders.
HAHAHA! LOL
I can only imagine the number of minor errors that go unnoticed by those who have been using AIs for their research and that will generate problems due to chaotic and dubious content. I confess that above all else I find this "machine disorder" curious and amusing, and that looking at it from an artistic and creative point of view, it can be very useful even for entertainment. I'd even like to delve deeper into this and find out if there aren't any purposeful generators of anomalies, for example musical ones. We can already see this applied very firmly in entertainment videos made by AI, such as these:
The causes of AI hallucinations are related to a combination of factors, such as the complexity of the training data, the lack of filtering of training data that is collected from public sources and the lack of transparency of AI algorithms. However, as we are advancing at an absurd speed in these technologies, I believe that this will soon cease to be so common and perhaps it will become just a purposeful whim (in the same way that a movie director sometimes emulates amateurism in order to capture a certain emotion in the viewer). Until then, all we can do is revel in the absurdities.
Português
A inteligência artificial (IA) tem avançado de forma meteórica nas últimas décadas, tornando-se cada vez mais sofisticada e capaz de realizar tarefas que antes eram consideradas exclusivas dos humanos. No entanto, essa evolução também trouxe consigo alguns problemas, como a "descoberta" das "alucinações da IA". Que são respostas confiantes por parte de um sistema de IA que não parecem ser justificadas pelos dados de treinamento. Elas podem se manifestar de diversas formas, como na geração de imagens ou vídeos que não correspondem à realidade, na tradução de textos que são incompreensíveis ou na identificação de objetos ou pessoas que não existem.
SourceUm exemplo disso é a própria pesquisa que fiz sobre esse tema perguntando para o Bard a IA do Google à respeito das "alucinações da IA" e ele respondeu:
-A inteligência artificial (IA) está se tornando cada vez mais sofisticada, e com isso, surgem novas possibilidades e desafios. Um dos desafios mais importantes é o de garantir que a IA seja segura e confiável.
Uma das formas de garantir a segurança da IA é identificar e mitigar os riscos de alucinações. Alucinações são percepções que não correspondem à realidade, e podem ser causadas por uma variedade de fatores, incluindo doenças mentais, drogas e distúrbios neurológicos.
HAHAHA! LOL
Fico imaginando a quantidade de erros menores que esse que passam batido por quem vem usando as IAs para suas pesquisas e que vão gerar problema por conteúdo caótico e duvidoso. Confesso que acima de qualquer coisa acho curioso e divertido esse "distúrbio da máquina" e que olhando por um viés artístico e criativo, pode ser muito útil até mesmo para entretenimento. Gostaria inclusive de mergulhar mais fundo nisso e saber se não existem geradores propositais de anomalias por exemplo musicais. Já podemos ver isso aplicado muito firmemente no entretenimento de videos feito por IA, como por exemplo esses:
As causas das alucinações da IA estão relacionadas a uma combinação de fatores, como a complexidade dos dados de treinamento, a falta de filtro dos dados de treinamento que são coletados de fontes públicas e a falta de transparência dos algoritmos de IA. Porém como estamos avançando em velocidade absurda nessas tecnologias, acredito que em breve isso vai deixar de ser algo tão comum e quem sabe torne-se apenas um capricho proposital (da mesma forma que um diretor de cinema as vezes emula o amadorismo para capturar certa emoção ao telespectador). Até lá só resta se divertir com os absurdos.
