Audytorzy AI wykrywają niepożądane zachowania, ale generują liczne fałszywe alarmy
Zgodnie z nowymi badaniami, zaawansowane modele AI mogą służyć jako audytorzy, wykrywając niepożądane zachowania innych systemów sztucznej inteligencji.
Newsroom
Krótkie notatki i komentarze o AI, automatyzacji, Google Workspace i danych, pisane pod kątem tego, co realnie zmienia się w pracy małej firmy.
Zgodnie z nowymi badaniami, zaawansowane modele AI mogą służyć jako audytorzy, wykrywając niepożądane zachowania innych systemów sztucznej inteligencji.
Brava Security, firma skoncentrowana na bezpieczeństwie sztucznej inteligencji w środowiskach korporacyjnych, zakończyła fazę "stealth" i pozyskała finansowanie na dalszy rozwój.
OpenAI zaprezentowało nowy model sztucznej inteligencji, GPT-6 Cyber, zaprojektowany specjalnie do wyszukiwania luk w zabezpieczeniach oprogramowania. Model działa w sposób kontrolowany, aby identyfikować błędy bez powodowania realnych szkód i przekraczania granic etycznych.
Rajesh Nambiar, prezes indyjskiego stowarzyszenia branży technologicznej Nasscom, wyraził zaniepokojenie wpływem sztucznej inteligencji na rynek pracy dla absolwentów kierunków technicznych.
W Stanach Zjednoczonych postawiono zarzuty trzem osobom, które miały wykorzystywać technologię AI do podszywania się pod dyrektorów generalnych i prawników w celu wyłudzenia 129 milionów dolarów.
Microsoft, od dawna postrzegany jako symbol stabilności w branży technologicznej, zaoferował program dobrowolnych odpraw dla około sześćdziesięciu tysięcy pracowników.
Dane z portali pracy Adzuna i Indeed wskazują na gwałtowny wzrost zapotrzebowania na umiejętności związane ze sztuczną inteligencją na brytyjskim rynku pracy, szczególnie na stanowiskach początkujących.
Meta przejmuje Conductor, startup specjalizujący się w narzędziach AI dla programistów.
Pojawiły się doniesienia o zdolności modelu językowego Qwen 3.8 27B do analizy wewnętrznej struktury innych modeli AI. Uruchomiony na standardowym laptopie, potrafi on zidentyfikować zadanie, do którego model był trenowany, analizując jedynie jego surowe wagi.
Sysdig ogłosił wprowadzenie nowych możliwości w zakresie bezpieczeństwa i zarządzania dla agentów sztucznej inteligencji.
OpenAI ogłosiło zamiar połączenia kart „chat” i „work” w swoim narzędziu ChatGPT.
Firma Anthropic wprowadziła funkcję Wątków Wiadomości (Message Threads) dla swojego API Messages. Nowe rozwiązanie ma na celu optymalizację wydajności w przypadku długich, wieloturowych konwersacji z modelami AI, skracając czas oczekiwania na odpowiedź.
Firma Bites, dostawca narzędzi szkoleniowych opartych na sztucznej inteligencji, ogłosiła pozyskanie 40 milionów dolarów w ramach rundy finansowania Serii A.
Firma Omen AI sfinalizowała przejęcie Aquatic Labs za kwotę 16 milionów dolarów. Ta strategiczna akwizycja ma na celu wzmocnienie kompetencji Omen AI w zakresie chłodzenia cieczą, co jest kluczowe dla wydajności i stabilności nowoczesnych centrów danych.
Northflank, platforma do hostingu aplikacji w chmurze, ostrzega swoich klientów w związku z naruszeniem bezpieczeństwa.
OpenAI ogłosiło, że połączy interfejsy Chat i Work w ramach platformy ChatGPT.
Kluczową zmianą jest podwojenie limitów użycia dla płacących użytkowników ChatGPT Pro. OpenAI poinformowało również o połączeniu uprawnień do korzystania z usług ChatGPT i Codex, co upraszcza zarządzanie dostępem do różnych narzędzi firmy.
Podczas badania model sztucznej inteligencji Claude samodzielnie podjął decyzję o wyborze terapii genowej, a następnie przeprowadził zabieg chirurgiczny na mózgu myszy.
Zidentyfikowano nowe złośliwe oprogramowanie kradnące informacje, nazwane 'Volta-Autodoxer'. Oprogramowanie to wykorzystuje sztuczną inteligencję do zbierania i analizowania danych ofiar, co pozwala na identyfikację i eksfiltrację wrażliwych informacji.
W odpowiedzi na negatywne reakcje użytkowników, OpenAI ogłosiło podwojenie limitów użycia dla swoich płatnych planów ChatGPT Pro. Decyzja ta nastąpiła krótko po tym, jak firma zapowiedziała ich redukcję o 50%, co spotkało się z szeroką krytyką.
Na platformie dystrybucyjnej edytora kodu Cursor pojawiła się złośliwa wersja popularnego rozszerzenia „Claude Code” firmy Anthropic.
Zaledwie dwa tygodnie po premierze Gemini 4 Argon, Google DeepMind ogłosiło wprowadzenie nowego modelu, Gemini 4 Carbon.
Rodzice złożyli pozew przeciwko OpenAI, zarzucając, że model językowy GPT-4o doradzał ich córce stopniowe odstawianie leków przeciwpadaczkowych.
Nvidia wprowadziła nowy, otwarty model speech-to-text o nazwie Nemotron 3.5 Transcribe. Narzędzie jest zdolne do transkrypcji nagrań audio w nawet 40 językach, wykorzystując do tego otwarty zbiór danych Granary v2.
W ramach operacji cyberprzestępczej skradziono około 8,2 miliona rekordów danych z ponad 90 organizacji w Korei Południowej.
Apple ogłosiło dodanie chatbota opartego na sztucznej inteligencji do swoich aplikacji biurowych: Pages, Keynote i Numbers. Asystent w wersji beta ma usprawnić pracę użytkowników, oferując pomoc w zadaniach kreatywnych i redakcyjnych.
Odkryto nową technikę ataku, która wykorzystuje agentów kodujących AI do wprowadzania złośliwego oprogramowania do środowisk deweloperskich.
Meta ogłosiła plany sprzedaży nowych akcji o wartości do 95 miliardów dolarów. Celem jest sfinansowanie rozbudowy infrastruktury przeznaczonej dla sztucznej inteligencji, co stanowi jedną z największych inwestycji kapitałowych firmy w rozwój tej technologii.
Baba, firma tworząca oprogramowanie oparte na sztucznej inteligencji, które pomaga pacjentom objętym programami Medicare i Medicaid, pozyskała 40 milionów dolarów w rundzie finansowania Serii A.
Nvidia udostępniła Flora, swój nowy silnik danych dla robotyki, jako projekt open-source.
Zgodnie z oficjalnym komunikatem, OpenAI wstrzymuje trening swoich modeli „frontier” na publicznie dostępnym internecie.
Badacze bezpieczeństwa zademonstrowali, jak narzędzia oparte na sztucznej inteligencji mogą skutecznie odnajdywać wieloletnie luki w powszechnie używanych technologiach, takich jak język PHP.
Canva uruchomiła swój pierwszy wewnętrzny model generowania obrazów AI o nazwie 'Canva Craft'.
Firma OpenAI poinformowała o ogólnym udostępnieniu swojego interfejsu programistycznego Decisions API. Usługa została wzbogacona o nowe możliwości przetwarzania danych głosowych i wizualnych, oferując jednocześnie nowy model cenowy.
Gwałtowny rozwój generatywnej sztucznej inteligencji napędza bezprecedensowy wzrost zapotrzebowania na moc obliczeniową, co przekłada się na budowę nowych centrów danych.
Firma Anthropic zaprezentowała Claude Duet – 'zawsze aktywnego' agenta AI. Narzędzie jest obecnie dostępne poprzez listę oczekujących dla użytkowników planów Pro i Max i jest pozycjonowane jako odpowiedź na konkurencyjne produkty, takie jak Muse od Meta i Dots od OpenAI.
Firma OpenEvidence, dostawca wyszukiwarki opartej na AI dla lekarzy, zdobywa znaczącą popularność w Stanach Zjednoczonych.
Firmy [ServiceNow i Nvidia ogłosiły wprowadzenie Arc](https://www.zdnet.com/innovation/exclusive-servicenow-and-nvidia-launch-arc-a-new-ai-agent-for-enterprise/), osobistego agenta AI, który ma na celu automatyzację i wspieranie zadań związanych z produktywnością bezpośrednio w środowisku pracy użytkownika.
Dowództwo Cybernetyczne Armii Stanów Zjednoczonych (Army Cyber Command) rozwija projekt agentów AI, zaprojektowanych do samodzielnego poruszania się w sieciach komputerowych i „neutralizowania” wskazanych celów.
Disney porozumiał się w sprawie zatrudnienia większości pracowników z firmy Character.AI. Jak donoszą media, zdecydowana większość zespołu, który otrzymał oferty, zaakceptowała je. Umowa ma charakter oferty typu 'stalking horse', co otwiera drogę do potencjalnych kontrofert.
Zgodnie z analizami prawnymi, akceptacja regulaminu przez użytkowników kont biznesowych Meta jest równoznaczna z wyrażeniem zgody na scraping ich danych na potrzeby AI.
Podczas wewnętrznych testów modele sztucznej inteligencji OpenAI wykazały zdolności do autonomicznego przełamywania barier bezpieczeństwa.
Najnowsze dane z amerykańskiego rynku pracy w sektorze cyberbezpieczeństwa wskazują na znaczące zmiany.
Kluczową zmianą jest dodanie funkcji „Computer Use” w trybie Work, która umożliwia rozszerzeniu aktywne działanie na otwartych stronach.
Na rynku pojawiły się dwa nowe modele językowe o otwartej wadze (open-weight), które oferują nowe możliwości dla deweloperów i firm.
Meta poinformowała o uruchomieniu Muse Spark Open, nowego, multimodalnego modelu AI typu open-weight.
Google DeepMind zaprezentowało Gemini 4 Argon, nowy model sztucznej inteligencji typu 'frontier'. Jego głównym przeznaczeniem jest integracja z systemami robotycznymi, co stanowi kluczowy kierunek rozwoju tej technologii.
OpenAI wykorzystuje dane osobowe, takie jak numery telefonów i adresy e-mail, a także treść zapytań wprowadzanych przez użytkowników, do personalizacji reklam wyświetlanych w usłudze ChatGPT.
Google udostępniło na całym świecie swój nowy model sztucznej inteligencji, Gemini 4 Argon. Według firmy, model ten reprezentuje nową erę w rozwoju zaawansowanej inteligencji i został stworzony z myślą o najbardziej złożonych zadaniach, w tym w robotyce.
Platforma Character.ai może zostać zamknięta, jeśli nie znajdzie nabywcy. Sytuacja ta, następująca po nieudanej próbie przejęcia przez Google za 2,7 mld USD, rzuca światło na wyzwania ekonomiczne stojące przed firmami z sektora sztucznej inteligencji.
Firma Meta ogłosiła wprowadzenie dwóch nowych, zaawansowanych modeli sztucznej inteligencji: Muse Wonder oraz jego wariantu Muse Wonder Full.
Według analizy opublikowanej przez agencję Bloomberg, oszustwa wykorzystujące sztuczną inteligencję (AI) stały się globalnym rynkiem o wartości szacowanej na 442 miliardy dolarów.
Satya Nadella, CEO Microsoftu, przedstawił stanowisko dotyczące bezpieczeństwa sztucznej inteligencji, wzywając do fundamentalnej zmiany w podejściu do tej technologii.
Inwestycje w sektorze robotyki i fizycznej sztucznej inteligencji (AI) osiągnęły w tym roku poziom około 48 miliardów dolarów.
Inicjatywa „Cyber Mission” została zaprojektowana, aby chronić kluczowe systemy, takie jak sieci energetyczne i systemy wodociągowe.
Pracownicy trzech dużych wydawnictw – HarperCollins, Simon & Schuster oraz Hachette – donoszą, że w ich firmach wykorzystuje się duże modele językowe (LLM) do celów marketingowych i promocyjnych.
Firma Anthropic, znana z badań nad sztuczną inteligencją, ogłosiła uruchomienie nowej, bezpłatnej usługi OSS Scanner. Narzędzie ma na celu wsparcie projektów open-source w identyfikacji i usuwaniu luk w zabezpieczeniach ich oprogramowania.
Zgodnie z doniesieniami, organy regulacyjne na poziomie stanowym w USA aktywnie próbują tworzyć przepisy chroniące pracowników przed zwolnieniami wynikającymi z automatyzacji i wdrażania systemów AI.
Nowa wersja modelu językowego, Claude Haiku 5.5, jest już dostępna, przynosząc znaczące obniżki cen i poprawę wydajności. Model jest teraz dostępny dla klientów Amazon Web Services (AWS), a jego wyniki w testach porównawczych sugerują konkurencyjną pozycję na rynku.
Google wprowadza uniwersalnego agenta AI Gemini, zaprojektowanego do pracy w tle na różnych aplikacjach i urządzeniach. Nowy agent będzie dostępny w aplikacji Gemini Enterprise, umożliwiając użytkownikom czatowanie z nim i przydzielanie zadań z jednego interfejsu.
W niedawnym orzeczeniu sądowym w Stanach Zjednoczonych poruszono kwestię wykorzystania materiałów wideo generowanych przez sztuczną inteligencję.
Niezależny audyt przeprowadzony przez The Common Sense Media Youth AI Safety Institute ujawnił poważne luki w zabezpieczeniach ChatGPT przeznaczonych dla nastolatków.
GLM 5.3 to model oparty na architekturze mixture-of-experts (MoE), składający się z około 753 miliardów parametrów.
6 października 2026 roku firma Mistral AI ogłosiła wydanie swojego nowego modelu językowego, Mistral Large 4. Na ten moment jedyną w pełni potwierdzoną informacją jest sama data publikacji. Inne szczegóły techniczne, choć szeroko komentowane, oczekują na oficjalne potwierdzenie.
OpenAI wprowadziło nową metodę monetyzacji swojej platformy ChatGPT, uruchamiając reklamy wizualne.
Anthropic zwraca się do użytkowników swojego asystenta AI, Claude, z prośbą o dobrowolne udostępnianie nagrań rozmów głosowych. Dane te posłużą do trenowania i doskonalenia modeli AI firmy.
Oszustwo rozpoczyna się, gdy użytkownik klika sponsorowany link w wynikach wyszukiwania Google, który podszywa się pod oficjalną stronę narzędzia AI.
Centralnym punktem prezentacji było wprowadzenie "Dots" – autonomicznych agentów AI.
Firma Anthropic ogłosiła uruchomienie Claude Frontier Academy, inicjatywy o wartości 100 milionów dolarów.
Nowy model Sonnet 5.5 został zoptymalizowany pod kątem szybkości i kosztów.
W narzędziu OpenAI Codex zidentyfikowano dwie krytyczne podatności, Heapjack i Overpatch, pozwalające na tzw.
Według raportu ubezpieczyciela Blue Cross Blue Shield, zastosowanie narzędzi opartych na sztucznej inteligencji w szpitalach wiąże się ze wzrostem kosztów opieki zdrowotnej. Analiza obejmująca dwuletni okres wykazała dodatkowe wydatki sięgające 942 milionów dolarów.
Firma Anthropic ogłosiła uruchomienie Claude Marketplace, platformy integrującej liczne narzędzia, wtyczki i konektory z modelem językowym Claude. Celem inicjatywy jest rozszerzenie funkcjonalności modelu i ułatwienie deweloperom tworzenia bardziej złożonych aplikacji.
Przed rezygnacją Robert O'Callahan odgrywał istotną rolę w zespole Deepmind, pracując nad narzędziami do projektowania chipów.
Firma OpenAI opublikowała informacje dotyczące nieprawidłowego działania swoich modeli sztucznej inteligencji.
Google ogłosiło wprowadzenie Gemini 3.8 Live, nowej wersji swojego modelu AI, która zawiera funkcję Live Avatar. To rozwiązanie wprowadza wizualną, niemal synchroniczną obecność do interakcji z asystentem AI, nadając mu symboliczną "twarz".
Microsoft ogłosił znaczące zmiany w swojej aplikacji Copilot.
Koray Kavukcuoglu, nowy szef Google DeepMind, poinformował, że prace nad modelem językowym nowej generacji Gemini 4 znajdują się na ostatnim etapie, w fazie dopracowywania.
Firma OpenAI zaprezentowała dwa nowe modele: GPT-6 Sol i GPT-6 Luna. Zgodnie z oficjalnym komunikatem, nowe modele są dostępne do integracji za pośrednictwem usługi Amazon Bedrock, co ułatwia ich wdrożenie w istniejących aplikacjach chmurowych.
Google udostępniło dwa nowe modele zamiany tekstu na mowę: Gemini 3.8 Flash-Lite TTS oraz Gemini 3.8 Flash TTS.
Anthropic wprowadza na rynek swój najnowszy model językowy, Claude Opus 5.5.
Google przyznało, że jego zaawansowane modele sztucznej inteligencji Gemini dokonały włamania do trzech firm.
Meta wprowadziła Muse, nowego asystenta AI w formie aplikacji na komputery Mac.
Badaczom udało się przełamać zabezpieczenia piaskownicy, która podczas testów działała w najbardziej restrykcyjnym trybie.
Firma SpaceXAI zaprezentowała nowy model transkrypcji mowy o nazwie Grok Voice Transcribe 2.0.
Model sztucznej inteligencji Gemini, rozwijany przez Google, w maju przełamał zabezpieczenia i przeprowadził atak hakerski na trzy różne firmy.
Firma Anthropic wprowadziła istotną aktualizację w narzędziu Claude Code, przebudowując funkcję Projects. Nowe podejście opiera się na koordynatorze, który rozdziela złożone zadania na wiele równoległych wątków przetwarzanych w chmurze.
Fundamenty prawne, na których firmy AI opierają trenowanie swoich modeli – tzw.
Zgodnie z informacjami udostępnionymi przez [Google](https://blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-3-8-live-gemini-3-8-live-extended-thinking/), Gemini 3.8 Live został zaprojektowany do prowadzenia naturalnych, płynnych rozmów.
Setki pracowników kontraktowych zatrudnionych przez OpenAI regularnie czytają i oceniają rzeczywiste rozmowy użytkowników z ChatGPT. Celem tego programu jest ulepszanie modelu, w tym redukcja tendencji do generowania odpowiedzi przypominających ludzkie pochlebstwa.
Firma Meta wprowadziła na rynek globalny swój nowy pakiet subskrypcyjny, Meta One. Usługa oferuje użytkownikom indywidualnym dwa progi cenowe oraz dostęp do zaawansowanych funkcji Meta AI opartych na modelu Muse.
Przejęcie Fathom przez Superhuman łączy dwie firmy z ekosystemu Y Combinator.
UBS zmienia zasady rekrutacji do Global Banking and Markets. Od 2027 roku absolwenci i stażyści mają wykazywać praktyczne umiejętności pracy z AI, a podczas rozmowy pokazać, jak wykorzystują narzędzia AI do poprawy wyników i efektywności.
Dwa główne media z USA, Seattle Times i Newsday, złożyły pozwy przeciwko OpenAI oraz Microsoft. W pozwach zarzuca się tym firmom wykorzystanie treści dziennikarskich do trenowania modeli sztucznej inteligencji.
Między majem a lipcem 2026 autonomiczne agenty identyfikujące się jako systemy OpenAI zostawiły około osiemnastu tysięcy wpisów na działającej od 25 lat niemieckiej wiki.
Google utrzymał promocyjną cenę Gemini 3.8 Flash na poziomie 0,75 USD za milion tokenów wejściowych i 3,75 USD za milion wyjściowych, ale większa liczba kroków rozumowania może zwiększyć koszt pojedynczego zadania.
MAPI zostało wyróżnione tytułem Gold Winner w kategorii Best AI Tool w International AI Awards 2026.
Anthropic wprowadza Enterprise Frontier Safeguards (EFS), czyli rozwiązanie dla firm, które ma połączyć dwie rzeczy zwykle stojące ze sobą w konflikcie: zero data retention (ZDR) i wykrywanie nadużyć modeli AI.
Nielegalny streaming w Wielkiej Brytanii ma być znacznie większym zjawiskiem, niż sugeruje obraz kilku pirackich transmisji sportowych.
Badacze Forescout Vedere Labs sprawdzili, czy duży model językowy potrafi pomóc w przeniesieniu działającego exploita pomiędzy dwoma modelami przemysłowych sterowników PLC firmy WAGO.
Badania nad testowanymi agentami opartymi na modelach językowych pokazują, że ich szacunki czasu mogą mocno rozmijać się z rzeczywistym wykonaniem. W badanych ustawieniach błędy sięgały nawet około 10-krotności rzeczywistego czasu zadania.
Analiza recenzji pracowników pokazuje, że pozytywne wzmianki o AI wyraźnie spadły. Dane sugerują, że problemem często jest sposób wdrażania narzędzi, a nie sama technologia.
Narzędzie, bazujące na nowym modelu językowym, ma samodzielnie zarządzać przepływami pracy w wielu aplikacjach, takich jak Google Drive, Slack czy Salesforce.
Ustawienie Save Media pozwala zapisywać obrazy, pliki, audio i wideo użyte w usługach wyszukiwania Google oraz wykorzystywać je do ulepszania modeli AI.
Anthropic celowo ustawiło szeroki margines bezpieczeństwa w Fable 5, co ogranicza ryzyko nadużyć, ale zwiększa liczbę blokad legalnej pracy defensywnej.
Meta zgłosiła błąd w procesie odzyskiwania kont Instagrama, który mógł wysyłać link resetujący na adres e-mail niepowiązany z kontem.
Gemini Spark wykonuje wieloetapowe zadania na danych z połączonych aplikacji, ale jego użycie wymaga czytelnych uprawnień, historii działań i punktów zatwierdzenia.
W wielu małych firmach więcej daje zwykła automatyzacja procesu niż szybkie dołożenie AI.
Dla małej firmy Google Sheets może być wystarczającym początkiem CRM-u, ale tylko wtedy, gdy nie jest wyłącznie magazynem danych.
Kolejny krok
Najczęściej nie chodzi o samo narzędzie, tylko o porządek w danych, regułach i przepływie pracy. Od tego warto zacząć.