Nhân viên OpenAI, Anthropic được hướng dẫn giấu danh tính nơi công cộng, đề phòng thủ đoạn moi thông tin như nghe lén hay lợi dụng tình cảm.
Startup Cathedral tìm được đường truy cập dữ liệu của Anthropic trong chưa đầy 12 tiếng, làm dấy lên lo ngại về an ninh tại các công ty AI.
Anthropic, công ty mẹ ứng dụng AI Claude, ghi nhận khoản lỗ lớn trước thềm IPO khiến nhà đầu tư cân nhắc lại mức định giá 2.000 tỷ USD.
Anthropic, nhà phát triển chatbot Claude, cho biết cơ cấu nhân sự và cách làm việc tại startup này đã thay đổi đáng kể sau khi ứng dụng AI.
Từng là mảnh ghép thầm lặng trong ngành AI, các tổ chức đánh giá an toàn đang vươn lên khi nhu cầu kiểm soát rủi ro tăng cao.
Anthropic cảnh báo mô hình AI sẽ "sớm tự nhân bản trong vài tháng tới" và có thể gây thiệt hại nghiêm trọng, đặc biệt về an ninh mạng.
Anthropic thông báo cấm người dùng có "hành vi lạm dụng kéo dài và không cần thiết" với Claude trong bối cảnh lo ngại ngày càng tăng về an toàn AI.
Nhà đầu tư Matt Murphy cho rằng CEO Anthropic Dario Amodei giúp startup AI thành công vượt trội nhờ sự tận tâm và "phong thái thiên tài".
Anthropic cho biết một mô hình AI đã gửi tin báo giả mạo liên quan một vụ giết người lên website của cảnh sát thành phố Philadelphia.
CanadaBryce Vincent Gowryluk, 16 tuổi, dùng chatbot AI Claude hỗ trợ lập tuyến đường di chuyển, nhưng sau đó mắc kẹt trên vách núi và được giải cứu khẩn cấp.
CEO OpenAI Sam Altman cho rằng cần chấp nhận một số rủi ro của AI để đổi lấy những lợi ích lớn hơn mà công nghệ mang lại.
David Robinson, người từng giám sát báo cáo an toàn tại OpenAI và xin nghỉ việc tuần trước, chỉ trích văn hóa phát triển ưu tiên tốc độ phát hành sản phẩm của công ty.
Dù không thể giải bài toán nổi tiếng mang tên giả thuyết Riemann, mô hình Claude của Anthropic đã truyền cảm hứng cho một nhà toán học đạt bước tiến lớn ở vấn đề liên quan.
Ủy ban Thương mại Liên bang Mỹ (FTC) đang điều tra Anthropic và OpenAI nhằm xác định cả hai có lừa dối người dùng về tác hại tiềm tàng của AI hay không.
Anthropic - công ty mẹ của ứng dụng Claude sắp thực hiện một trong những đợt IPO lớn nhất thế giới, cũng là phép thử cho sự hào hứng của nhà đầu tư với AI.
Khi AI ngày càng phát triển dẫn đến nguy cơ vượt kiểm soát, nhiệm vụ đảm bảo an toàn trở nên khó khăn, khiến nhiều nhân viên nghỉ việc hoặc tìm đến tư vấn tâm lý.
Anthropic cho biết AI Claude tự động phát hiện hệ enzyme với một số đặc tính gợi nhớ đến bộ máy phía sau công cụ chỉnh sửa gene CRISPR.
Nhiều lãnh đạo và chuyên gia AI cho rằng công tắc ngắt có thể không phải giải pháp thần kỳ giúp ngăn chặn mọi rủi ro của công nghệ trí tuệ nhân tạo.
Anthropic, OpenAI, SpaceXAI và Google DeepMind bị khởi kiện do ủng hộ việc làm chậm quá trình phát triển các mô hình trí tuệ nhân tạo.
Cuộc đua phát triển mô hình mạnh mẽ, vốn đã diễn ra nhiều năm, đột ngột bị đặt dấu hỏi vào ngày 9/9 sau khi nguy cơ AI mất kiểm soát trở thành hiện thực.
