#deepfakes
Stay ahead of AI challenges with "Defending Against Deepfakes in the AI Era."
Discover strategies to combat digital deception in this insightful read. Check it out here: https://thehackernews.com/2025/05/deepfake-defense-in-age-of-ai.html
Holy shit they identified Mr Deepfakes. The website has gone dark.
This article recounts exactly how they tracked him down.
https://www.cbc.ca/news/canada/mrdeepfakes-porn-website-key-figure-1.7527626
"The promise of realtime deepfakes for fraudsters is that they can use the tech to engage with a victim in the moment. Rather than some scripted video which may or may not be tailored to the victim, realtime deepfakes allow a scammer to talk directly to their mark and improvise on video calls or livestreams. They can appear just as human as the person they are impersonating, potentially fooling not only people but also the automated systems that require someone to prove their identity to open an account with a financial institution, for example.
For months 404 Media has monitored the spread of deepfake technology throughout fraud-focused Telegram channels. For much of that time, the results were not impressive. Some involved using AI to animate a photo in an attempt to bypass cryptocurrency exchanges’ identity verification processes and the videos were stilted and unnatural. Others looked more realistic, but it was unclear whether the advertisements were scams—fraudsters on Telegram asked for hundreds of dollars for access to their tool that allegedly bypassed know-your-customer (KYC) verification checks. Some fraudsters also advertised access to tools that let a phone user replace their camera’s input with a file from their phone’s gallery, meaning they could upload the deepfake video to services that ask for a selfie. 404 Media has also seen Instagram accounts where a real person consistently deepfakes themselves to appear as a different gender in order to catfish people."
https://www.404media.co/the-age-of-realtime-deepfake-fraud-is-here/
Fraudsters can now do deepfake videos in real time. Just what we needed, another assault on our ability to trust in reality or the evidence of our senses.
Especially if you have any elderly relatives, it's worth setting up a code-phrase you can use to verify your identity.
https://www.404media.co/the-age-of-realtime-deepfake-fraud-is-here/
Disturbingly realistic sexual images of children generated by artificial intelligence fall into a legal gray zone in Japan, leaving victims with no clear path to justice. https://www.japantimes.co.jp/news/2025/04/27/japan/crime-legal/deepfake-ai-child-pornography/?utm_medium=Social&utm_source=mastodon #japan #crimelegal #ai #deepfakes #children #pornography #childporn
Scores of people who have licensed their image to artificial intelligence marketing companies have ended up seeing themselves feature in deepfakes, dubious adverts or even political propaganda. https://www.japantimes.co.jp/business/2025/04/17/tech/ai-sale-regret/?utm_medium=Social&utm_source=mastodon #business #tech #ai #deepfakes #personalinformation
Brauchen wir eine europäische #Plattform und wie wirkt sich #KI auf #SocialMedia aus? Gespräch mit Michael #Seemann (Teil 2)
#Internet #Fediverse #DeepFakes #KIInhalte @mspro
https://www.l-iz.de/leben/gesellschaft/2025/04/brauchen-wir-eine-europaische-plattform-ki-social-media-aus-gesprach-michael-seemann-teil-2-621857
Aktuell mehr als 286.000 Unterzeichner:
#Deepfakes von echten #Menschen verbieten!
Durch #KünstlicheIntelligenz kann man Texte, Bilder, Töne und Videos erstellen, die für Laien kaum noch als Fälschung erkennbar sind. Diese Deepfakes werden schon jetzt benutzt, um Menschen zu verleumden oder in Verruf zu bringen. Sie werden verwendet für politische Desinformation, Cybermobbing, Rachepornos und gefälschte Produktempfehlungen.
Aktuell mehr als 260.000 Unterzeichner:
#Deepfakes von echten #Menschen verbieten!
Durch #KünstlicheIntelligenz kann man Texte, Bilder, Töne und Videos erstellen, die für Laien kaum noch als Fälschung erkennbar sind. Diese #Deepfakes werden schon jetzt benutzt, um Menschen zu verleumden oder in Verruf zu bringen. Sie werden verwendet für politische #Desinformation, #Cybermobbing, Rachepornos und gefälschte Produktempfehlungen.
In diesem Zusammenhang sei auch nochmal auf die Petition von @marcuwekling hingewiesen. Die kann noch Unterzeichner:innen gebrauchen!
https://weact.campact.de/petitions/deepfakes-verbieten
@kattascha schrieb:
https://chaos.social/@kattascha/114246029947384120
https://weact.campact.de/petitions/deepfakes-verbieten Es rollt ein Tsunami aus Fälschungen auf uns zu, der es immer schwerer macht, zwischen Wahrheit und Lüge zu unterscheiden. Deshalb sollten wir das Fälschen von Menschen verbieten. Dein Gesicht und deine Stimme gehören dir! Hilf mit, das Thema während den Koalitionsverhandlungen präsent zu machen und unterschreibe unsere Petition gegen das Fälschen von Menschen.
#DeepFakes #KI
The Dark Side of AI: How Cybercriminals Are Weaponizing Artificial Intelligence to Outsmart People and Security youtu.be/Gp877NvD--M #cybersecurity #AI #weaponization #enabled #threats #socialmedia #deepfakes #fraud #scams
Looking forward to two days of exciting conversations on state #AI policy! The Summit on State AI Legislation is bringing together state legislators, civil society, industry players, and academics to discuss #deepfakes, #elections, and more—and, of course, how state policy can help shape good AI outcomes.
Dieses Gesetz gegen sexualisierte #Deepfakes klingt gut – bis man anfängt, es durchzulesen. Dann zeichnet sich ein Muster ab: Die Definition franst aus und plötzlich werden alle möglichen Menschen zu Betroffenen von digitaler Gewalt. Zum Beispiel Trump.
#LaBaladoDeFredSavard S07-EP23
⦁ Gabrielle Brassard-Lecours parle de l'enquête de #Pivot sur la #traitementMédiatiqueDeGaza dans les grands #médiasQuébécois
⦁ Philippe De Grosbois sur l'impact (ou non) des #deepfakes sur les démocraties à partir du premier deepfake "célèbre" de Barrack Obama en 2003
https://share.transistor.fm/s/cfbd4343
#Gaza #Palestine #TraitementMédiatiqueDeLaPalestine #médias #CritiqueDesMédias #médiasQC @palestine @israel
AI in 2025: Purpose-driven models, human integration, and more https://www.artificialintelligence-news.com/news/ai-in-2025-purpose-driven-models-human-integration-and-more/ #ai #society #ethics #deepfakes #security #infosec #opensource #tech #news #technology
Aufbruchstimmung beim Pariser KI-Gipfel: 109 Milliarden Euro will Frankreich in Künstliche Intelligenz investieren. Ausreichend günstigen Atomstrom gäbe es - anders als in den USA. "Einstecken, los gehts!", so Macron. Das ist aber nicht der einzige Punkt, der zu diskutieren wäre: https://www.3sat.de/kultur/kulturzeit/deepfakes-im-wahlkampf-102.html?at_medium=Social%20Media&at_campaign=Mastodon&at_specific=3sat
Next up was a piece about #DeepFakes from Univ. at Albany that focused on detection of deep fakes via study of head poses rather than visual artifacts or #ML classifiers.
