יו"ר קק"ל יונה קרמיניצקי אמר להרצל ממשרדו בוינה: "עלינו לייסד אגודת יער לאומית לנטיעת עצים בארץ", והרצל הסכים.
בשנת 1904 החלה קק"ל בפעולות ראשונות של נטיעת יער. בהמלצת האגרונום זליג סוסקין והבוטנאי אוטו ורבורג הוחלט על נטיעת עצי זית שנחשבים למניבי פרי ומאריכי חיים. חשיבותם וסמליותם לאורך ההיסטוריה התאימו גם לרצון לסמל את הישגי הציונות המתחדשת בארץ. הנטיעה הראשונה היתה באדמות חולדה. הוחלט כי היער יקרא על שם הרצל – מייסד ומנהיג התנועה הציונית שנפטר באותה שנה (1904). היער הראשון אמנם ניטע, אך לא הצליח כפי שקיוו (מתוך 12,000 עצי זית שרדו רק 3,000), ולכן המשיכו ליער את הארץ וגיוונו עם עצי אורן וברוש מהירי צמיחה ומפונקים פחות.
יחד עם התגברות רכישות הקרקע החלה קק"ל לחזק את ההתיישבות על הקרקע. קק"ל סייעה בהקמת ישובים כפריים, עירוניים וכן מוסדות חינוכיים וציוניים. עד שנת 1939 הוקמו על אדמות קק"ל 53 יישובים! בעקבות הגבלות הבריטים על ההתיישבות והעלייה לישראל, נוסדו עשרות יישובים במהירות שיא, בתוך מספר שעות, וכונו "יישובי חומה ומגדל". לאורך כל התקופה קק"ל הגבירה את רכישות הקרקע וההתיישבות.