Experts waarschuwen dat Deepseek, een generatieve AI die in China is ontwikkeld, meerdere beveiligingstests heeft gefaald, wat bezorgdheid heeft geuit over de risico’s voor gebruikers. De Silicon Valley Security Provider Appsoc ontdekte aanzienlijke kwetsbaarheden, waaronder de mogelijkheid om de AI te jailbreaken en malware te genereren.
Chinese AI Deepseek faalt beveiligingstests
David Reid, een cybersecurity -expert aan de Cedarville University, uitte alarm over de testresultaten. “Het faalde een aantal benchmarks waar je het kon jailbreaken. Je zou in sommige gevallen werkelijke malware kunnen genereren, wat een grote rode vlag is, ‘verklaarde hij. Reid merkte op dat deze storingen bijzonder zorgwekkend zijn, aangezien ze het mogelijk maken om schadelijke code te creëren.
Appsoc’s analyse Deepseek toegewezen een risicoscore van 8,3 van de 10, die het gebruik ervan in bedrijfsinstellingen beveelt die gevoelige gegevens of intellectueel eigendom inhouden. Anjana Susarla, een expert in verantwoordelijke AI aan de Michigan State University, herhaalde dit sentiment en vroeg zich af of organisaties Deepseek konden manipuleren om toegang te krijgen tot vertrouwelijke bedrijfsinformatie.
Hoewel Deepseek op dezelfde manier lijkt te presteren als gevestigde AI-modellen zoals Chatgpt, adviseerde Susarla om het te gebruiken in chatbots of klantgerichte applicaties en beweerde: “Het antwoord is nee.” De implicaties van het gebruik van een dergelijk niet -getest model kunnen leiden tot aanzienlijke kwetsbaarheden van de beveiliging.
Verhoogde bezorgdheid komt voort uit de Chinese oorsprong van Deepseek, vergelijkbaar met de controverse rond het sociale mediaplatform Tiktok, dat te maken heeft gehad met toezicht van Amerikaanse wetgevers voor zijn gegevensbeveiligingspraktijken. Leden van het Amerikaanse Huis hebben onlangs plannen aangekondigd om wetgeving in te voeren die Deepseek verbieden op overheidsapparaten, onder verwijzing naar het risico op gegevenstoegang door de Chinese Communistische Partij.
Deepseek R1 versus O3-mini in prestaties, kosten en bruikbaarheid confrontatie
“Dit is een Five Alarm National Security Fire”, verklaarde de Amerikaanse vertegenwoordiger Josh Gottheimer uit New Jersey. Hij benadrukte de noodzaak om elke infiltratie van apparaten van overheidsmedewerkers te voorkomen, waarbij hij eerdere problemen met Tiktok herinnerde.
Vanaf nu liet er een aantal platteland Italië En Australië hebben al verboden op deepseek voor het gebruik van de overheid. Ondanks pogingen om de risico’s te beheren, erkennen cybersecurity -experts zoals Dimitri Sirota, CEO van Bigid, dat het een uitdaging kan zijn om gemiddelde gebruikers ervan weer te zorgen om de applicatie te downloaden en te gebruiken. De verleiding van nieuwe, populaire technologieën weegt vaak op tegen voorzichtigheid in gebruikersgedrag.
Bezorgdheid over Deepseek omvat niet alleen de technische kwetsbaarheden ervan, maar ook de geopolitieke risico’s die verband houden met software die aan China is gekoppeld. Gegevens verzameld door DeepSeek kunnen onderworpen zijn aan de Chinese wetgeving, waardoor deze op verzoek van de overheid gebruikersinformatie moet openbaar maken.
Experts waarschuwen dat de Chinese overheid de mogelijkheden bezit om gegevens te analyseren die uit Deepseek zijn geaggregeerd, samen met andere bronnen om mogelijk profielen van Amerikaanse gebruikers te creëren. Deze situatie loopt parallel met de vrees rond Tiktok, waar zorgen bestaan over de Chinese Communistische Partij die gebruikersgegevens voor intelligentiedoeleinden benutten.
Om risico’s te verminderen bij het gebruik van DeepSeek of andere AI-modellen, bevelen cybersecurity-experts best practices aan, zoals het waarborgen van sterke, unieke wachtwoorden en het inschakelen van tweefactor-authenticatie. Gebruikers moeten ook voorzichtig zijn met het delen van persoonlijke informatie met AI -applicaties en sceptisch blijven over verzoeken om gevoelige gegevens.
Ten slotte moeten gebruikers zorgvuldig de algemene voorwaarden van een AI -applicatie voor het gebruik lezen, om gegevensgebruik en delende praktijken te begrijpen. Experts waarschuwen dat applicaties gevestigd in China of andere tegenstanders moeten worden behandeld met een verhoogde controle vanwege de potentiële risico’s die verband houden met gegevensprivacy en veiligheid.
