https://pixabay.com/pt/photos/rato-armadilha-ratoeira-isca-4737313/
The constant, almost exponential development of technologies means that some people use them to the detriment of others. Whenever a new technology is discovered, there is always this possibility, and this has been the case for as long as there have been records.
There is virtually nothing that cannot be used to cause harm to others. The exponential evolution of artificial intelligence and LMMs (large language models) makes it easier to humanise a language that until recently was only accessible using a few human resources.
Have you ever thought that we could receive a message from someone who could pose as one of our acquaintances, based on our social media contacts, or even platforms like LinkdIn, and ask us to access or download a certain application that will give us access to personal content?
Imagine the following situation: We're out shopping and we receive a notification on our mobile phone with a message via one of the WhatsApp communication platforms, or even via SMS. In this message, someone who identifies themselves as our friend, and who may even use some data to validate their ‘false identity’, asks us to share certain information with them. Now imagine that we don't have a written message, but a call... or even a video call. With the technology we currently have at our disposal, it shouldn't be long before the possibility of making these kinds of calls using deep-fake technology becomes available.
How could we possibly avoid being the target of such a scam? Today, dozens of large companies and states are targets of hacking, cyber attacks and electronic fraud. Will the widespread availability and access to these technologies multiply these attacks and take them to another scale?
How can we protect ourselves from something that could be so close that we don't even realise it?
Will distrust of others become the new norm? In an increasingly digital society, where our interaction with institutions almost always involves a voice-recognition robot with a sorting algorithm, how do we realise that we are actually interacting with the real company and not with a pirated version?
Will we be able to find the necessary balance so that we don't collapse as a society? Will we be able to discern real news from fake news?
When we access news content, often the content companies themselves, instead of taking the time to try to find out if the news is true, prefer to release it straight away... saying that it's breaking news and that it will be confirmed... Will a video, even if it is true, be distinguishable from one generated in half a dozen months' time?
Democratic societies, in my opinion, will face an enormous challenge in the coming years. Sectarian and extremist groups, with their own agenda, will spread fear and mistrust, making us believe that an alternative reality may be underway. And how will we be able to counter this?
How will society be able to overcome the enormous challenges that will come our way in a few years' time?
O constante desenvolvimento das tecnologias, de forma quase exponencial, leva a que haja quem as use em prejuízo dos outros. Sempre que uma tecnologia nova é descoberta, existe sempre essa possibilidade, e ao longo de toda a nossa existência, e desde que há registos, que assim o acontece.
Não há virtualmente nada que não possa ser usado para causar dano no outro. A evolução exponencial da inteligência artificial, e dos LMM (grandes modelos de linguagem), facilitam a humanização de uma linguagem que até há bem pouco tempo apenas era acessível utilizando alguns recursos humanos.
Já pensaram que podemos receber uma mensagem de alguém que pode fazer passar por um dos nossos conhecidos, tendo usado por base os nossos contactos das redes sociais, ou mesmo plataformas como o LinkdIn, e pedir para acedermos ou descarregarmos determinada aplicação que dará acesso a conteúdo pessoal?
Imaginem a seguinte situação: Estamos nas compras, e recebemos uma notificação no nosso telemóvel, com uma mensagem via uma das plataformas de comunicação com o WhatsApp, ou mesmo via SMS. Nessa mensagem, alguém que se identifica como nosso amigo, e que até poderá usar alguns dados que façam validar a sua "falsa identidade", nos pede para partilhar determinada informação com ele. Agora imaginem que não temos uma mensagem escrita, mas sim uma chamada... ou mesmo uma video-chamada. Com a tecnologia que actualmente temos à nossa disposição, não deverá faltar muito para que fique à disposição a possibilidade de fazer esse tipo de chamadas usando a tecnologia deep-fake.
Como seria possível podermos evitar sermos alvos de uma fraude destas? Hoje em dia, dezenas de grandes empresas e estados, são alvos de pirataria, e ataques informáticos e fraudes electrónicas. Será que com a massificação e a disponibilização e acesso dessas mesmas tecnologias de uma forma mais generalizada irá multiplicar esses mesmos ataques e levar a uma outra escala?
Como nos poderemos proteger de algo que poderá estar tão próximo, que nem nos apercebemos?
A desconfiança no outro passará a ser uma nova norma? Na sociedade cada vez mais digital, onde a nossa interacção com as instituições passa, quase todas as vezes por um robot de reconhecimento vocal, com um algoritmo de triagem, como percebemos que estamos de facto a interagir com a verdadeira empresa, e não com uma versão pirateada?
Saberemos encontrar o equilíbrio necessário para que não entremos em colapso enquanto sociedade? Teremos capacidade de discernir as verdadeiras noticias, das noticias falsas?
Quando acedemos a conteúdos noticiosos, muitas vezes as próprias empresas de difusão de conteúdos, em vez de investir algum tempo para tentar perceber se a notícia é verdadeira, preferem lançar logo no ar... dizendo que é uma notícia de ultima hora, e que irá ser confirmada... Um vídeo, apesar de verdadeiro será possível de distinguir de um gerado daqui por meia dúzia de meses?
As sociedades democráticas, no meu entender, irão ter um enorme desafio pela frente nos próximos anos. Grupos sectoriais e extremistas, com uma agenda própria, irão lançar o medo e a desconfiança, fazendo crer que uma realidade alternativa poderá estar em curso. E como seremos capazes de o contrapor?
Como conseguirá a sociedade ultrapassar os enormes desafios que nos aparecerão daqui a poucos anos?
Free image from Pixabay.com
Translated with DeepL.com (free version)
