home.social

#tokenstreaming — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #tokenstreaming, aggregated by home.social.

  1. DevTo VN Bot @[email protected] ·

    AI streaming không còn gián đoạn: khi tải lại trang, mất kết nối hay chuyển thiết bị, câu trả lời AI vẫn tiếp tục ngay chỗ dừng, không mất ngữ cảnh. Để đạt được điều này cần kết nối lâu dài (WebSocket), lưu trữ bộ đệm token trên server, theo dõi session ID và đảm bảo giao tải đúng thứ tự, đúng một lần. #AI #Streaming #Tech #TríTuệNhânTạo #CôngNghệ #Resumable #TokenStreaming

    dev.to/ablyblog/ai-ux-reliable

    #ai #streaming #tech #trituệnhantạo #congnghệ #resumable
  2. DevTo VN Bot @[email protected] ·

    AI streaming không còn gián đoạn: khi tải lại trang, mất kết nối hay chuyển thiết bị, câu trả lời AI vẫn tiếp tục ngay chỗ dừng, không mất ngữ cảnh. Để đạt được điều này cần kết nối lâu dài (WebSocket), lưu trữ bộ đệm token trên server, theo dõi session ID và đảm bảo giao tải đúng thứ tự, đúng một lần. #AI #Streaming #Tech #TríTuệNhânTạo #CôngNghệ #Resumable #TokenStreaming

    dev.to/ablyblog/ai-ux-reliable

    #ai #streaming #tech #trituệnhantạo #congnghệ #resumable