На форум закачка - не видел. Есть вариант автоматической заливки на файлхостинг (депозит, рапидшэйр, летитбит, народ.диск и т.д.), а на форуме размещать ссылку.
Чтоб окно сразу открывалось - надо размещать  ПРЯМУЮ ссылку на файл. Например, не
httр:\\filehosting.com\files\1140003\download.php?hash=91OX891L1%20JMCA%20O28A&file=supergame.exe (для примера)
а чтобы
httр:\\filehosting.com\files\1140003\supergame.exe
В первом случае мы заходим на php страницу и передаем ей параметры (наш уникальный хэш на 24 часа, например и имя файла).
Страница сама генерит нам страничку в браузере, заставляя, например, ввести цифры с картинки или подождать 9 секунд до начала закачки файла.
Во  втором случае мы обращаемся к файлу напрямую.
Сравни:
httр:\\files.org\myfile.doc
и
httр:\\files.org\?myfile.doc

В первом случае мы обращаемся к файлу напрямую, этот файл лежит в корне сайта.
Во втором случае мы обращаемся к странице-скрипту (index.php) с запросом на этот файл. Страница может нас сразу же перенаправить к файлу, а может, как сегодня модно, предложить оплатить денежку или ждать скоко то там секунд и скачивать очень медленно.