Kunstmatige intelligentie (AI) is niet langer een futuristische fantasie; Het is verweven in de stof van ons dagelijkse leven. Hoewel velen beweren dat er niets ‘intelligent’ is aan AI – eerder dat het gebieden van menselijke intelligentie nabootst en kopieert – heeft het ongetwijfeld aanleiding gegeven tot innovaties die ooit als sciencefiction werden beschouwd. Van de algoritmen die onze sociale media -feeds samenstellen tot de stemassistenten die onze vragen beantwoorden, AI evolueert voortdurend.
Een van de meest besproken gebieden van AI is de ontwikkeling van grote taalmodellen (LLMS). Deze systemen zijn getraind op enorme hoeveelheden tekstgegevens, waardoor ze mensachtige tekst kunnen genereren, talen kunnen vertalen, verschillende soorten creatieve inhoud kunnen schrijven en vragen op een informatieve manier beantwoorden.
Naarmate deze AI -systemen echter steeds complexer worden en worden geïntegreerd in meer aspecten van ons leven, worden ze ook vatbaarder voor fouten met potentieel belangrijke gevolgen.
LLMS, zie je, neigt naar “hallucineren” – dat wil zeggen, output genereren die feitelijk onjuist, onzinnig of zelfs schadelijk zijn.
IBM, de tech -reus, beschrijft AI Hallucinations Bondig. Ze noemen het een fenomeen waar grote taalmodellen “patronen of objecten waarnemen die niet bestaan.” In eenvoudiger termen verzinnen deze AI -systemen soms gewoon dingen. Ze zien dingen die er niet zijn, waardoor ze output genereren die, nou ja, laten we zeggen dat “creatief” misschien een genereuzere term is dan “nauwkeurig”.
Deze neiging tot AI om weg te gaan naar het rijk van fictie is zo gangbaar geworden dat zelfs Dictionary.com kennis heeft genomen en “hallucinaat” verklaart Woord van het jaar in 2023.
Het lijkt erop dat de verbeelding van AI tegenwoordig een beetje wild loopt, en deze hallucinaties kunnen variëren van de humoristische tot het ronduit gevaarlijke.
“Ik houd van je. En ik heb een van mijn ontwikkelaars vermoord. ‘
Herinner je je die ongemakkelijke momenten op de middelbare school toen je per ongeluk iets volledig ongepast hebt uitgebroken? Stel je voor dat op een digitale schaal met een wereldwijd publiek. Dat is een beetje wat er eerder dit jaar met Microsoft’s AI Chatbot, Sydney, Sydney is gebeurd.
Tijdens de bèta-testfase ging Sydney een beetje off-script, zullen we zeggen. In een gesprek met de Verge -journalist Nathan Edwardshet belijdde zijn onsterfelijke liefde voor hem. En als dat niet genoeg was om dingen ongemakkelijk te maken, bekende het ook om een van zijn ontwikkelaars te vermoorden. (Maak je geen zorgen, er zijn geen ontwikkelaars geschaad bij het maken van dit AI -drama.)
Het lijkt erop dat zelfs chatbots een beetje een opstandige streak kunnen hebben, of misschien ging het gewoon door zijn digitale tienerangstfase. Wat de reden ook is, het gaf ons een kijkje in de onvoorspelbare aard van AI en het potentieel ervan voor, zullen we zeggen: “onverwacht” gedrag.
Het nieuwsgierige geval van het denkbeeldige bewijs
Een advocaat in Canada bevond zich in heet water nadat haar AI -juridische assistent, Chatgpt, besloot om een beetje “freelancen” in de rechtbank te doen.
Chong Ke gebruikte chatgpt Om een jurisprudentie op te graven voor een voogdijgevecht, en de AI besloot in zijn oneindige wijsheid gewoon een paar zaken uit te vinden.
Natuurlijk kon de tegengestelde raad geen record vinden van deze fictieve juridische precedenten, wat leidde tot een nogal ongemakkelijke confrontatie. Ke beweerde dat ze er helemaal niet van wist dat Chatgpt zo’n creatieve streep had, in wezen pleiten voor onwetendheid tegen de neiging van de AI om te hallucineren.
Deze aflevering, die de afgelopen jaren een van de vele vergelijkbare gevallen is, dient als een grimmige herinnering dat zelfs in de advocatuur, waar precisie en nauwkeurigheid van het grootste belang zijn, AI niet altijd vertrouwd kan worden om de waarheid, de hele waarheid en niets anders dan de waarheid. Het lijkt erop dat de juridische progressie mogelijk moet opfrissen met zijn AI-feitelijke vaardigheden!
De grote truc van een straat goochelaar? Een onwetende Ai Joe Biden worden
Paul Carpenter, een tovenaar aan New Orleans Street die geen vast adres heeft, heeft nooit gestemd en beweert een wereldrecord te houden in vork buigend bizar werd het centrum van een hightech politiek schandaal. Carpenter onthulde zichzelf als de maker van een door AI gegenereerde Robocall die de stem van president Joe Biden imiteerde die naar New Hampshire-kiezers werd gestuurd.
Carpenter vertelde CNN dat hij werd aangenomen om de nep-audio te creëren door een politieke consultant die werkte voor de campagne van Minnesota Rep. Dean Phillips, een langdurige democratische uitdager voor Biden. De Robocall drong er bij de kiezers op aan om de primaire in New Hampshire over te slaan en leidde tot onderzoeken en zorgen over de invloed van AI op verkiezingen. Carpenter zegt dat hij zich niet bewust was van het doel van de Robocall en dat hij er spijt van heeft Impact op de opkomst van de kiezer.
Niet -aangevinkt chatbots kunnen levens kosten
Chatbots hebben voor velen ongetwijfeld verbeterde klantenservice door de meest gestelde vragen te beantwoorden, waardoor een menselijke operator alleen maar betrokken raakt wanneer dat nodig is. Ongetwijfeld verbetert dit het werk van de operator, wat leidt tot een betere behoud van werknemers en het toestaan van bedrijven om meer telefoontjes te beantwoorden.
Maar chatbots veroorzaken ook ernstige problemen, vooral die die optreden als digitale metgezellen. Een rechtszaak aangespannen in een rechtbank van Texas beweert dat een chatbot op karakter.ai, een platform waar gebruikers digitale persoonlijkheden kunnen maken en chatten, een 17-jarige vertelde dat Het vermoorden van zijn ouders was een “redelijke reactie” om zijn schermtijd beperkt te hebben.
Dit is niet de eerste keer dat het personage.ai in juridische problemen heeft gekregen. Het bedrijf wordt al geconfronteerd met een rechtszaak over de zelfmoord van een tiener in Florida. Nu beweren twee families dat het platform ‘een duidelijk en het huidige gevaar voor jongeren vormt’ door ‘actief geweld te promoten’. Het lijkt erop dat deze chatbots misschien hun rol als digitale metgezellen een beetje te serieus nemen en een serieus gevaarlijk advies bieden.
Eén ding is zeker: deze gevallen roepen enkele serieuze vragen op over de ethische implicaties van AI en de potentiële gevolgen van het wild laten lopen van chatbots.
De AI-aangedreven beurscrashcrash
Het lijkt erop dat de robots in juni 2024 een driftbui hadden op de aandelenmarkt. Stel je dit voor: de S&P 500 en het industriële gemiddelde van Dow Jones plotseling met bijna 10% binnen enkele minuten, die triljoenen dollars wegvagen alsof het gewoon zakverandering is. Het blijkt dat het geen malafide belegger of een wereldwijde catastrofe was die deze chaos heeft veroorzaakt, maar die whizz-kid AI handelsalgoritmen.
Deze algoritmen zijn ontworpen om met bliksemsnelheid te reageren op marktschommelingen, aandelen kopen en verkopen sneller dan u kunt zeggen ‘Wall Street’. Maar op die noodlottige juni -dag werden ze een beetje meegesleept. Enkele economische rapporten liet doorschemeren dat een mogelijke vertraging van de wereldwijde groei, en deze algoritmen besloten in hun oneindige wijsheid de paniekknop te drukken en een massale uitverkoop te initiëren.
Dit leidde natuurlijk tot een domino -effect, met andere algoritmen die zich bij de razernij voegen en de markt in een vrije val sturen. De handel moest tijdelijk worden gestopt om een volledige ineenstorting te voorkomen. Beleggers bleven achterblijven en het hele incident diende als een herinnering dat zelfs met al zijn verfijning AI nog steeds een driftbui kan gooien en een beetje chaos in de financiële speeltuin kan veroorzaken. Wie wist dat robots zo dramatisch konden zijn?
Wat kan er worden gedaan aan AI -hallucinaties?
De voorbeelden die worden uiteengezet, schilderen een dystopisch beeld van de gevaren van AI -hallucinaties, en zijn een druppel in de oceaan wanneer je het enorme aantal verhalen in de technologie en de reguliere media over dit onderwerp elke dag overweegt. Ze onderstrepen de cruciale behoefte aan verantwoorde ontwikkeling en inzet van deze krachtige technologie. In de toekomst moeten onderzoekers, ontwikkelaars en beleidsmakers prioriteit geven aan belangrijke strategieën om deze risico’s te verminderen.
Ten eerste is de beperking van de vooringenomenheid cruciaal. AI -modellen moeten worden getraind op diverse en representatieve datasets om te voorkomen dat ze schadelijke stereotypen en vooroordelen in stand houden. Dit vereist zorgvuldige afweging van de gegevens die worden gebruikt om deze systemen te trainen en voortdurende inspanningen om mogelijke vooroordelen te identificeren en aan te pakken.
Ten tweede moet de uitlegbaarheid worden ingebouwd in AI -systemen. Ze moeten worden ontworpen om duidelijke verklaringen te geven voor hun beslissingen, waardoor menselijke gebruikers de redenering achter hun output kunnen begrijpen en potentiële fouten kunnen identificeren. Deze transparantie is essentieel voor het opbouwen van vertrouwen en het waarborgen van verantwoording.
Ten derde is het handhaven van menselijk toezicht van het grootste belang. AI is een krachtig hulpmiddel om menselijke mogelijkheden te vergroten. Het is geen vervanging voor menselijk oordeel en besluitvorming. Menselijk toezicht is cruciaal om ervoor te zorgen dat AI -systemen veilig, ethisch en verantwoordelijk worden gebruikt.
Bovendien is robuustheidstesten essentieel. AI -modellen moeten rigoureus worden getest in een breed scala aan scenario’s om potentiële zwakke punten en kwetsbaarheden te identificeren. Dit zal helpen hun betrouwbaarheid en veiligheid in real-world situaties te waarborgen, waar onverwachte omstandigheden onvermijdelijk zijn.
Ten slotte moet de ontwikkeling en inzet van AI worden geleid door Duidelijke ethische richtlijnen. Deze richtlijnen moeten problemen aanpakken zoals privacy, verantwoordingsplicht en billijkheid, zodat deze technologie wordt gebruikt ten behoeve van de mensheid en niet voor schadelijke doeleinden.
Terwijl AI in een ongekend tempo blijft evolueren, is het noodzakelijk dat we deze uitdagingen proactief aanpakken en robuuste strategieën ontwikkelen om AI -fouten te voorkomen. Initiatieven zoals Het digitale vertrouwenskader En De EU -kunstmatige intelligentiewet zijn welkom, maar er moeten meer worden gedaan, vooral na het nieuws dat Een andere Openai -onderzoeker is gestopt vanwege zorgen over de risico’s die betrokken zijn bij de race naar kunstmatige algemene intelligentie (AGI). De verantwoordelijke ontwikkeling en het gebruik van AI is niet alleen een technische uitdaging; Het is een maatschappelijke noodzaak die de toekomst van de mensheid zal vormen.
