DREAM / The Prime Minister resigns and wakes up under the Parisian bridge!

 Kliko këtu për të tjera
Voxpress:

AI workers are "really scared" about the future of humanity... - Former Anthropic researcher speaks to BBC

2026-09-13 23:04:28Kosova&Bota SHKRUAR NGA REDAKSIA VOX
AI workers are "really scared" about the future of humanity... -
Jacob Coxon speaking to the BBC

Brandon Livesay and Mitchell Labiak - BBC

An Artificial Intelligence (AI) researcher who resigned from the company Anthropic has told the BBC that employees in this field are "really scared" by the speed of technology development and the consequences it could have for humanity.

"I believe that if we don't slow down the current pace of progress, there is a strong possibility that we will all die in the near future," said Jacob Coxon, following his viral post on the dangers of AI.

Coxon, 27, who previously worked at OpenAI, said the staff's fears stem from a sense of being "locked in a race" between companies. He added that the demands for regulation are genuine, as employees are concerned about the outcome of that race.

Anthropic CEO Dario Amodei has called for a slowdown in AI development, an idea that has been supported by Sam Altman (OpenAI) and Elon Musk (xAI), who are calling for independent regulation and monitoring of models. Amodei stressed that the development of the technology is not in doubt, but the risks are "serious" and take time to address by companies and governments.

Coxon welcomed the idea of ​​slowing down, but warned that it must also be coordinated with China to avoid a "race on an international scale."

The hardest question to answer, according to Coxon, was what an Artificial Intelligence apocalypse would look like.

One of the risks mentioned by Amodei was the possibility of a swarm of automated programs (bots) that would act like a supercomputer and could take control of the internet.

Coxon said this scenario could become realistic within six months to a year.

In response to Coxon's departure, an Anthropic spokesperson told BBC News: "We have always been transparent that AI will bring both great benefits and unprecedented risks. To address these risks, we continue to build models with some of the strongest safeguards in the industry."

The spokesperson added that the company has been a pioneer in studying how AI models work. Anthropic was the first to publish a framework for mitigating the risks of their development and also “aggressively tests” its models, publishing findings to help review and prevent incidents of “AI non-compliance.”

"This work is also why we believe the world would benefit from adopting a legal and verifiable way to work together on the pace of publishing robust models," they said.

Coxon tha se kolegët e tij kishin frikë se rreziku mund të shfaqej edhe brenda dy viteve të ardhshme.

Ai shtoi se stafi në kompanitë e IA-së “po planifikon çfarë të bëjë me jetën e tyre dhe po mendon për ndikimet e punës së tyre”, ndërsa disa “po marrin në konsideratë blerjen e tokës diku, sepse janë shumë të frikësuar nga paqëndrueshmëria si rezultat i përparimit të shpejtë të IA‑së”.

“E kanë këtë mendim çdo ditë ndërsa punojnë me teknologjinë”, tha ai.

Megjithatë, Coxon shprehu edhe pak optimizëm për të ardhmen e IA‑së, duke i thënë BBC‑së se njerëzit që e studiojnë teknologjinë “me të vërtetë duan të shohin anën pozitive” të gjërave si “zgjidhja e sëmundjeve dhe përmirësimi i jetës së të gjithëve”.

Shumë të tjerë në industri kanë shprehur shqetësimet e tyre pas postimit të Coxon në rrjetet sociale, përfshirë shkencëtarin e Anthropic, Evan Hubinger.

“Ne me të vërtetë besojmë se IA mund të vrasë të gjithë njerëzit! Personalisht mendoj se ka mbi 10% gjasa brenda dekadës së ardhshme”, tha Hubinger.

Shkencëtari kompjuterik dhe fitues i Çmimit Nobel, Geoffrey Hinton, i njohur si “Kumbari i IA‑së”, i tha BBC‑së të premten se një mundësi 10% që IA të vriste të gjithë njerëzit “nuk është e paarsyeshme”.

Ndërkohë, Marc Warner, shefi ekzekutiv i kompanisë së sigurisë së IA Faculty, i tha BBC‑së se ishte “jashtëzakonisht e vështirë të vendosësh një probabilitet” mbi mundësinë që IA të vriste të gjithë njerëzit.

“Por është e rëndësishme të pranojmë se këta njerëz janë shumë të sinqertë në atë që thonë”, shtoi ai, duke vënë në dukje se rreziqet e IA‑së janë ngritur nga drejtuesit e disa kompanive të teknologjisë prej vitesh.

Ish‑kryeministri britanik Rishi Sunak, i cili është këshilltar i paguar i Anthropic, shkroi në Sunday Times se edhe ai ishte i shqetësuar për rrezikun e IA‑së ndaj njerëzimit, pavarësisht se përgjithësisht mbetet optimist.

Megjithatë, disa figura të industrisë kanë sugjeruar se komentet mbi rreziqet dhe fuqinë e IA‑së mund të jenë të dizenjuara për të gjeneruar jehonë.

Shefi ekzekutiv i platformës së IA Hugging Face, Clement Delangue, shkroi në rrjetet sociale: “Më falni, por të pyesësh Jacob [Coxon] për rrezikun e zhdukjes nga IA është si të pyesësh teknikun e kondicionerit për ndryshimet klimatike. Nuk them se është domosdoshmërisht e parëndësishme apo e gabuar, por le ta shohim në perspektivë”.

Pas publikimit të esesë së Amodei, megjithatë, Delangue ofroi ndihmën e tij për të qenë pjesë e zgjidhjeve të mundshme që propozoi kreu i Anthropic.

Ndërkohë, shefi i Nvidia, Jensen Huang, diskutoi komentet e Coxon në një konferencë të organizuar nga banka e investimeve Goldman Sachs javën e kaluar, sipas disa pjesëmarrësve që folën për BBC. Ata thanë se Huang i hodhi poshtë si të pavërteta. Ai më parë kishte deklaruar se ideja se IA “do të sillte fundin e njerëzimit” ishte “një marrëzi e plotë”.

Although he may have a business interest in an AI boom, as Nvidia makes the chips that power artificial intelligence systems, his comments reflect a growing backlash in Silicon Valley to existential warnings from current and former employees.

Other critics say Anthropic is trying to instigate a regulatory push to block competition, leaving it and OpenAI in a duopoly.

Anthropic is reportedly preparing for a potentially record-breaking initial public offering (IPO) on the stock exchange, allowing people to buy shares of the company.

OpenAI, which was recently valued at $852 billion, was expected to do the same, but Sam Altman said Friday that it won't happen this year, citing security concerns.

 


Në përputhje me standarded JTI

Video

SHIKO KANALIN NE YOUTUBE
×