Né à New-York en 1930. Etudie musique et musicologie à Harvard, où il est diplômé en 1952. Vient en France la même année afin de poursuivre ses études musicales qu’il abandonne peu de temps après pour se consacrer à la littérature. Premiers poèmes publiés en revue en 1956. Commence son premier roman en 1958 à la suite de la lecture de Roussel. En 1961 fonde la revue Locus Solus avec trois poètes newyorkais (dont John Ashbery, qui devient un ami proche). En 1970 fait la connaissance de Georges Perec, qui le fait entrer à l’Oulipo en 1973. Un peu plus tard entreprend la traduction de plusieurs romans français. À partir de 1978 a enseigné de façon intermittente dans plusieurs universités américaines. Sa vie actuelle est partagée entre la France et les États Unis.