پیتر در 6 ژوئن 1944 در سانفرانسیسکو به دنیا آمد. او نواختن گیتار را از سنین پایین شروع کرد و در اوایل دهه 60 وارد صحنه فولکلور شد. پیتر و برادرش رادنی در حین حضور در کالج سن متئو در یک گروه موسیقی بلوگراس به نام لیبرتی هیل آریستوکرات ها نواختند.

زمانی که پیتر در سال 1965 با سم آشنا شد، آرزو داشت گروهی را تشکیل دهد که آهنگ‌های کودکانه را بنویسد و اجرا کند. یکی از اولین آهنگ هایی که در حین کار با وی نوشتبچه‌های کمپ روز جامعه یهودی مارین، در شمال سانفرانسیسکو، «کاترپیلار» بود. این آهنگ در اولین آلبوم Big Brother and the Holding Company ظاهر شد.