徐福的事迹，最早见于《史记》的“秦始皇本纪”和“淮南衡山列传”（在秦始皇本纪中称“徐巿”，在淮南衡山列传中称“徐福”）。
《三国志》“吴书•吴主权传”、《后汉书》“东夷列传”也有提及徐福东渡之事。
到了五代的后周时，济州开元寺僧人义楚在《义楚六帖》（又称《释氏六帖》）的卷二十一“国城州市部”的“城廓•日本”中，首次明确提到徐福最终到达的是日本（也叫倭国），今日的秦氏（日本古代渡来豪族）为其后代，仍自称秦人。并说徐福到达后，将富士山称为蓬莱。此为目前所知最早明确指出徐福滞留不归之地是日本的中国文献。不过有观点认为，义楚的记载很可能和日本的传说有关。因为义楚有一个日本醍醐天皇时代的僧人好友叫宽辅（法号弘顺大师，927年到达中国），义楚没有到过日本，关于富士山的记载很显然来自他的日本好友的说法。然而，就是这样一则不经意的谈话记录，却成了以后徐福东渡到达日本的依据，传承授受，一直沿袭到了至今。
记载宋代欧阳修的《日本刀歌》明确指明徐福所滞留的地方就是日本，并且认为徐福东渡时携带了大量的典籍，才使得在中国遭秦始皇焚书坑儒的典籍在日本得以保留。但是这种说法的真实性难以考证。1339年日本南朝大臣北畠亲房所著《神皇正统记》将此事作为信史记录，称“孔子全经唯存日本矣”。
日本最早出现的徐福东渡到日本的记录是1339年日本南朝大臣北畠亲房所著的《神皇正统记》。而成书于8世纪的日本典籍《古事记》和《日本书纪》只提到了秦朝人移民到日本的情况，没有徐福东渡的记载。有观点认为这是因为中国8世纪时尚未明确提出徐福东渡所到之地就是日本。
日本人认为徐福在日本的纪州熊野的新宫（今和歌山县新宫市）登陆，当地还有徐福墓和徐福神社，每年11月28日是祭祀徐福的日子。在日本徐福的传说中，日本人认为徐福带来了童男童女、百工、谷种、农具、药物及生产技术和医术，对日本发展起了重要作用，因此尊徐福为“司农耕神”和“司药神”。
按当前的资料来推测，徐福很有可能是部分日本人的祖先，换句话说，某些日本人也是有汉人血统的。不过经过这么多年，估计血统已经很稀薄了。不过不少日本人对于徐福是其祖先还是比较认同的。可以说，徐福是沟通中日关系的一个突破点吧。