diff --git a/tokio-util/src/task/join_map.rs b/tokio-util/src/task/join_map.rs
index e7e898fcb..ad370beac 100644
--- a/tokio-util/src/task/join_map.rs
+++ b/tokio-util/src/task/join_map.rs
@@ -761,7 +761,6 @@ where
             Ok(entry) => entry.remove().0,
             _ => return None,
         };
-        self.hashes_by_task.remove(&id);
         Some(key)
     }
 }