Ông sinh ngày 15 tháng 6 năm 1882 tại làng Phượng Vũ, xã Phượng Dực, huyện Thường Tín, tỉnh Hà Đông (nay thuộc huyện Phú Xuyên, Thành phố Hà Nội). Vì quá nghèo, cha mẹ ông đã bỏ làng quê ra ở nhờ nhà một người họ hàng bên ngoại là bà nghè Đại Gia (tức ông nghè Phạm Huy Hổ) ở số 46 phố Hàng Giấy để kiếm sống, và cư trú dài hạn tại đây.
Ông học giỏi tiếng Pháp nên được học bổng trường thông ngôn. Năm 1896, 15 tuổi, ông được bổ làm thông ngôn ở Tòa sứ Lào Cai.
Năm 1897 – 1905, ông chuyển về Tòa sứ Hải Phòng và Bắc Ninh (bao gồm cả Bắc Giang). Thời gian làm việc ở Hải Phòng, ông làm cộng tác viên cho tờ Courrier d’Hai Phong (Thư tín Hải Phòng) và tờ Tribune Indochinoise (Diễn đàn Đông Dương).
Năm 1906 được chuyển về Hà Nội, Nguyễn Văn Vĩnh cùng với các bạn đồng chí hướng, lần lượt làm đơn xin thành lập Hội Trí Tri (Hà Nội), Hội Dịch sách, Hội giúp đỡ người Việt đi sang Pháp du học, Đông Kinh Nghĩa Thục (ông là người thảo điều lệ, viết đơn xin phép, và sau đó là giáo viên dạy chữ Quốc ngữ và tiếng Pháp của trường).
Năm 1906, ông cùng Hauser sang Pháp lo việc tổ chức gian hàng Đông Dương (Cochinchine) tại Hội chợ thuộc địa ở Marseille. Được tận mắt chứng kiến nền văn minh phương Tây, ông trở về nước với quyết tâm phát triển nền công nghiệp xuất bản mà đầu tiên là phát hành báo chí, để qua đó truyền bá chữ Quốc ngữ và bài bác các hủ tục phong kiến lạc hậu, nhằm canh tân đất nước, vì vậy ông đã xin thôi làm công chức và trở thành nhà báo tự do. Cũng trong năm này, ông là người Việt Nam đầu tiên gia nhập Hội Nhân quyền Pháp.
Tiếp đó, Nguyễn Văn Vĩnh cho in tờ Đại Nam đồng văn nhật báo xuất bản bằng chữ Hán (Tờ báo hàng ngày của nước Đại Nam chung một văn tự). Năm 1907, sau khi ra được 792 số, ngày 28/3/1907, tờ báo được đổi tên là Đăng cổ tùng báo (Khêu đèn gióng trống) và in bằng cả hai thứ chữ Hán và Quốc ngữ, ông được cử là chủ bút. Đây là tờ báo tiếng Việt đầu tiên ở miền Bắc.
Sau sự kiện Phan Chu Trinh, Nguyễn Văn Vĩnh là người Việt Nam duy nhất cùng với bốn người Pháp đồng ký tên đòi trả tự do cho Phan Chu Trinh. Việc làm này được thực hiện cùng với việc ông đã dịch toàn bộ bài viết từ Hán văn ra Pháp văn Đầu Pháp chính phủ thư của Phan Chu Trinh hoặc còn được gọi là Thư trước tác hậu bổ (Lettre de PHAN CHU TRINH au gouverneur général en 1906), khiến Nguyễn Văn Vĩnh bị chính quyền thực dân gọi lên đe dọa gay gắt.
Thực dân Pháp đã đóng cửa Đăng cổ tùng báo, đồng thời cấm Nguyễn Văn Vĩnh diễn thuyết, lưu hành và tàng trữ các ấn phẩm của phong trào Đông Kinh Nghĩa Thục.
Những khó khăn về tài chính đè nặng lên vai ông. Nhưng ông không lùi bước. Năm 1913, ông trở lại Hà Nội làm Chủ bút tờ tuần báo Đông Dương tạp chí. Đây là tờ báo đầu tiên ở Việt Nam quy tụ được hầu hết các nhân sĩ hàng đầu cả Nho học lẫn Tân học trong cơ quan biên tập của tờ báo, đồng thời cũng là tờ báo đầu tiên ở Việt Nam dạy người dân cách làm văn bằng chữ Quốc ngữ. Sau đó, ông được bầu vào Hội đồng Tư vấn Bắc Kỳ (sau đổi làm Viện dân biểu).
Năm 1914, ông kiêm luôn chức Chủ bút tờ Trung Bắc tân văn. Sau ngày 15/9/1919, Đông Dương tạp chí ngừng xuất bản. Thay thế nó là tờ Học báo (tờ báo có chuyên đề về giáo dục, Trần Trọng Kim lo việc bài vở, Nguyễn Văn Vĩnh làm Chủ nhiệm). Cũng trong năm này, ông Vĩnh mua tờ Trung Bắc tân văn và cho ra hàng ngày (đây là tờ nhật báo đầu tiên trong lịch sử báo chí ở Việt Nam).
Năm 1931, ông lập tờ “L’Annam Nouveau” (Nước Nam mới) in hoàn toàn bằng tiếng Pháp với mục đích đề cao văn hóa Việt, đề cao tinh thần yêu nước. Đồng thời việc xuất bản bằng Pháp văn không phải xin phép chính quyền theo luật định. Ông làm Chủ nhiệm kiêm Chủ bút cho đến khi mất 1936. Tờ báo này đã đoạt được giải thưởng GRAND PRIX tại Hội chợ báo chí thuộc địa tổ chức tại Paris năm 1932.
Sợ hãi Nguyễn Văn Vĩnh, năm 1935, nhân có tờ báo của ông chưa trả hết nợ, chính quyền gây sức ép với Nguyễn Văn Vĩnh và bắt buộc phải chọn một điều kiện, đó là:
– Chấm dứt toàn bộ việc viết hoặc là phải thanh toán hết mọi nợ nần chi phí của tờ báo
Không lùi bước, tháng 3 năm 1936, Nguyễn Văn Vĩnh quyết định đi tìm vàng để trả nợ, ông sang Sê Pôn (Lào) với một người Pháp có tên là A. Climentte, người này lấy vợ Việt Nam, có đồn điền tại tỉnh Hưng Yên và cũng đang ngập nợ vì làm ăn thua lỗ.
Ngày 1 tháng 5 năm ấy (1936), người ta tìm thấy Nguyễn Văn Vĩnh một mình trên con thuyền độc mộc, một tay vẫn cầm bút và tay kia cầm quyển sổ, trôi giữa dòng Sê Băng Hiêng (tên một nhánh của sông Sê Pôn). Người dân địa phương đưa con thuyền cập vào chân cầu Sê Pôn để chuyển lên trạm y tế Sê Pôn cứu chữa, nhưng đã quá muộn. Nhà cầm quyền loan báo: Nguyễn Văn Vĩnh chết ngày 2 tháng 5 năm 1936 vì sốt rét và kiết lỵ (lúc ấy, ông 54 tuổi). Sau đó, thi hài Nguyễn Văn Vĩnh đã được Hội Tam điểm tổ chức đưa về Hà Nội để cử hành tang lễ trong 3 ngày (từ 6 đến 8 tháng 5 năm 1936).
Tại buổi lễ tang, đông đảo giới báo chí của cả ba kỳ đã đến tiễn đưa ông dưới dòng chữ: “Kính viếng ông tổ của nghề báo”