王之涣出身于太原王家，为当时望族。他的五世祖王隆之为后魏绛州刺史，可能因此而移家绛州的。曾祖王信，隋朝请大夫、著作郎，入唐为安邑县令。祖王表，唐朝散大夫、文安县令。父王昱，鸿胪主簿、浚仪县令。从曾祖到父亲，虽然皆为官，但均为小官。王之涣出身于普通仕宦之家，排行第四，自幼聪颖好学，年龄还不到 20岁，便能精研文章，未及壮，便已穷经典之奥。不知何故，王之涣未走科举之途，而以门子调补冀州衡水主簿。任衡水主簿时，王之涣父母均已去世，衡水县令李涤将三女儿许配给他。
　　王之涣才高气盛，不愿为了衡水主薄的卑职而折腰，加上有人诬陷攻击，他便愤然辞官而去，“遂化游青山，灭裂黄绶。夹河数千里，籍其高风；在家十五年，食其旧德。雅谈珪爵，酷嗜闲放。”在家过了15年闲散自由的生活。后来他的亲朋好友觉得他这样一直沉于下层，不是办法，便劝他入仕。后来补文安郡文安县尉，仍是一不起眼之小职。他在职风清白著称，理民以公平著称，颇受当地百姓称道。谁料不久，他竟染病不起，以55岁之壮年，卒于官舍，葬于洛阳。
　　如此有才华之人，可惜终不见用，天也不假其年。这也是一切有才华的正直知识分子的常见结局。他的诗虽只流传下六首，但这寥寥数首，确为我国古典文学宝库的精华。