]> CyberLeo.Net >> Repos - FreeBSD/releng/8.1.git/blob - release/picobsd/build/picobsd
Copy stable/8 to releng/8.1 in preparation for 8.1-RC1.
[FreeBSD/releng/8.1.git] / release / picobsd / build / picobsd
1 #!/bin/sh -
2 #
3 # $FreeBSD$
4 # This file requires sysutils/makefs to run
5 #
6 # The PicoBSD build script. Invoked as
7 #
8 #       picobsd [options] image_type [site_name]
9 #
10 # Where image_type is a directory with the picobsd config info,
11 # and ${image_type}/floppy.tree.${site_name} contains
12 # optional site-specific configuration.
13 #
14 # For Options, see the bottom of the file where the processing is
15 # done. The picobsd(8) manpage might be of some help, but code and docs
16 # tend to lose sync over time.
17 #
18 # This script depends on the following files:
19 #
20 # in ${PICO_TREE} :
21 #   Makefile.conf       Makefile used to build the kernel
22 #   config              shell variables, sourced here.
23 #   mfs.mtree           mtree config file
24 #   floppy.tree/        files which go on the floppy
25 #   mfs_tree/           files which go onto the mfs
26 #
27 # in ${MY_TREE} :
28 #   PICOBSD             kernel config file
29 #   config              shell variables, sourced here.
30 #   crunch.conf         crunchgen configuration
31 #   mfs.mtree           overrides ${PICO_TREE}/mfs.mtree
32 #   floppy.tree.exclude files from floppy.tree/ which we do not need here.
33 #   floppy.tree/        local additions to ${PICO_TREE}/mfs_free
34 #   floppy.tree.${site}/ same as above, site specific.
35 #   mfs_tree/           local additions to the mfs_free
36 #   buildtree.mk        optional Makefile to build an extension for floppy tree
37 #                       (generated in buildtree/ )
38
39 #
40 #--- The main entry point is at the end.
41 #
42
43 # There are two initialization functions:
44 #
45 # + set_defaults
46 #   is run on entry to the script, and is used to set default values
47 #   for all variables that do not depend on image type and source tree.
48 #
49 # + set_build_parameters
50 #   is run after command line parsing
51 #
52 # VARIABLE NAMES:
53 # + variables that control operation (e.g. verbosity) and are generally
54 #   set from the command line have o_ ("option") as a name prefix
55 #
56 # + variables that contain pathnames and values that should not change
57 #   have c_ ("constant") as a name prefix
58 #
59 # + variables exported to Makefiles and subshells are CAPITAL
60 #
61 # + variables local to the script are lowercase, possibly with
62 #   an l_ ("local") prefix.
63 #
64 # There are unfortunately exceptions:
65 # name, l_usrtree, l_objtree
66
67 # SRC points to your FreeBSD source tree.
68 # l_usrtree points to the /usr subdir for the source tree.
69 #     Normally /usr or ${SRC}/../usr
70 # l_objtree points to the obj tree. Normally ${l_usrtree}/obj-pico
71 # c_label is either bsdlabel or disklabel
72 # PICO_TREE is where standard picobsd stuff resides.
73 #     Normally ${SRC}/release/picobsd
74 # You can set SRC with --src <directory>
75 # It is not recommended to override the other variables.
76
77 # MY_TREE (set later) is where this floppy type resides.
78 # BUILDDIR is the build directory
79
80 # log something on stdout if verbose.
81 o_verbose=0     # this needs to be here!
82 log() { #       message
83     local foo
84     [ ${o_verbose} -gt 0 ] && printf "\n*** %s\n" "$*"
85     [ ${o_verbose}  -gt 1 ] && read -p "=== Press enter to continue" foo
86     return 0
87 }
88
89 # unconditionally log and wait for input
90 logverbose() {  # message
91     local foo
92     printf "\n*** %s\n" "$*"
93     read -p "=== Press enter to continue" foo
94     return 0
95 }
96
97 # set some default values for variables.
98 # needs to be done as the first thing in the script.
99
100 set_defaults() {        # no arguments
101     # EDITOR is the editor you use
102     # fd_size  floppy size in KB (default to 1440). You can use 1480,
103     #   1720, 2880, etc. but beware that only 1440 and 1480 will boot
104     #   from 1.44M floppy drives (1480 will not work on vmware).
105     EDITOR=${EDITOR:-vi}
106     fd_size=${fd_size:-1440}
107
108     o_use_loader="yes"          # use /boot/loader
109         # You should not change it unless you are really short
110         # of space, and your kernel is small enough that the
111         # bootblocks manage to load it.
112
113     o_all_in_mfs="yes"          # put all files in mfs so you can boot
114                                 # and run the image via diskless boot.
115     o_clean=""                  # set if you want to clean prev.builds.
116     o_interactive=""            # default is interactive
117     o_verbose=0                 # verbose level, 0 is silent
118     o_tarv=""                   # tar verbose flag, "" or "v"
119     o_init_src=""               # set to build libs and includes.
120     o_makeopts=${MAKEOPTS:--s}  # make options, be silent by default
121     o_no_devfs=                 # default is use devfs.
122         # You should only set it when building 4.x images
123     o_do_modules=""             # do not build modules
124
125     SRC="/usr/src"              # default location for sources
126     c_startdir=`pwd`            # directory where we start
127                                 # used to lookup config and create BUILDDIR
128
129     # XXX 6.x/7.x have a single /boot/boot block, which is the concatenation
130     # of the old two. For the time being, we keep these, but this should
131     # be fixed at some point.
132
133     # blocks
134     c_boot1=/boot/boot1         # boot blocks (in case you want custom ones)
135     c_boot2=/boot/boot2
136
137     c_reply=${c_reply:-`mktemp "/tmp/reply.XXXXXXXXXX"`}
138                                 # file where User replies will be put
139     c_mnt=`mktemp -d "/tmp/picobsd.XXXXXXXXXX"`
140                                 # mountpoint used to build memory filesystems
141     c_fs=fs.PICOBSD             # filename used for the memory filesystem
142     c_img=picobsd.bin           # filename used for the picobsd image
143     c_iso=picobsd.iso           # filename used for the ISO image
144     generate_iso="NO"           # don't generate the iso image
145
146     # select the right disklabel program
147     case `uname -r` in
148         4.*)
149             c_label="disklabel"
150             ;;
151         *)
152             c_label="bsdlabel"
153             ;;
154     esac
155
156     set -e
157
158     trap fail 2
159     #trap fail 3
160     #trap fail 6
161     trap fail 15
162 }
163
164 # use the new build infrastructure to create libraries
165 # and also to build a specific target
166 create_includes_and_libraries2() { # opt_dir opt_target
167     local no
168     log "create_includes_and_libraries2() for ${SRC}"
169     if [ ${OSVERSION} -ge 600000 ] ; then
170         no="-DNO_CLEAN -DNO_PROFILE -DNO_GAMES -DNO_LIBC_R" # WITHOUT_CDDL=1"
171     else
172         no="-DNOCLEAN -DNOPROFILE -DNOGAMES -DNOLIBC_R"
173     fi
174     MAKEOBJDIRPREFIX=${l_objtree}
175     export MAKEOBJDIRPREFIX
176     ( cd ${SRC};
177     # make -DNOCLEAN -DNOPROFILE -DNOGAMES -DNOLIBC_R -DPICOBSD buildworld
178     if [ -d "$1" ] ; then
179         cd $1 ; make $2 # specific target, e.g. ld-elf.so
180     else
181         make _+_= $no toolchain _includes _libraries
182     fi
183     )
184 }
185
186 # entry for 4.x and earlier trees
187 create_includes_and_libraries() {
188     local e i
189
190     log "create_includes_and_libraries() for ${SRC}"
191     # Optionally creates include directory and libraries.
192     mkdir -p ${l_usrtree}/include       # the include directory...
193     mkdir -p ${l_usrtree}/share/misc    # a few things go here
194     mkdir -p ${l_usrtree}/lib           # libraries
195     mkdir -p ${l_usrtree}/sbin          # some binaries
196     # override variables for ownershiip and destinations
197     # BINOWN:BINGRP are also used for include files
198     (cd ${SRC}; \
199         BINOWN=`id -un` BINGRP=`id -gn` \
200         DESTDIR=${l_usrtree}/.. \
201         make -m ${SRC}/share/mk includes ) || fail $? includes
202     # Pick up the correct headers for libraries.
203     CFLAGS="-nostdinc -I${l_usrtree}/include" ; export CFLAGS
204
205     (cd ${SRC}
206         # $e is the invocation of make with correct environment
207         # XXX check the NO* options below, maybe system dependent.
208         e="MAKEOBJDIRPREFIX=${l_objtree}/picobsd/libraries \
209             BINOWN=`id -un` BINGRP=`id -gn` \
210             DESTDIR=${l_usrtree}/.. \
211             make -m ${SRC}/share/mk \
212                 -DNOHTML -DNOINFO -DNOMAN -DNOSHARE -DNOFSCHG "
213         log "do a 'make obj' in a few places."
214         # This is very version-specific... The following works for 5.0
215         for i in lib secure/lib gnu/lib \
216                 gnu/usr.bin/perl usr.bin/lex usr.sbin/config ; do
217             (cd ${i}; eval $e obj)
218         done
219         log "now make the static libraries"
220         eval $e -DNOPROFILE -DNOPIC libraries
221         (cd ${SRC}/usr.sbin/config
222         eval $e         # build binary
223         eval $e install # install it
224         )
225     ) || fail $? "libraries"
226     log "Libraries done"
227 }
228
229 # set_type <the_type> [the_site] looks in user or system directories
230 # for the directory named as the first argument, reads the configuration
231 # files and sets variables according to the config.
232 # Also sets MY_TREE and BUILDDIR and SITE
233
234 set_type() {    # the_type the_site
235     local a i
236
237     log "set_type() : Type '$1' site '$2'"
238     THETYPE=$1
239     SITE=$2
240     a=$1
241     name=""     # clear in case of errors
242     for i in ${c_startdir}/${a} ${PICO_TREE}/${a} ; do
243         log "set_type: checking $i"
244         [ -d $i -a -f $i/PICOBSD -a -f $i/crunch.conf ] || continue
245         set -- `cat $i/PICOBSD | \
246             awk '/^#PicoBSD/ {print $2, $3, $4, $5, $6}'`
247         [ x"$1" != "x" ] || continue
248         MFS_SIZE=$1 ; init_name=$2
249         mfs_inodes=$3 ; fd_inodes=$4
250         name=`(cd $i ; pwd) `
251         name=`basename $name`
252         MY_TREE=$i
253         BUILDDIR=${c_startdir}/build_dir-${name}
254         log "Matching file $name in $i"
255         return ;
256     done
257     logverbose "Type $a NOT FOUND"
258 }
259
260 clean_tree() {
261     log "clean_tree()"
262     if [ -z "${name}" ] ; then
263         echo "---> Wrong floppy type"
264         exit 3
265     fi
266     rm -rf ${BUILDDIR}
267 }
268
269 # prepare a message to be printed in the dialog menus.
270 set_msgs() {            # OK
271     log "set_msgs()"
272
273     MSG1="Type: ${THETYPE} name $name"
274
275     MSG="PicoBSD build -- Current parameters:\n\n\t1.  ${MSG1}\n\
276 \t2.  MFS size: ${MFS_SIZE} kB\n\
277 \t3.  Site-info: ${SITE}\n\t4.  Full-path: ${MY_TREE}\n"
278 }
279
280 # Main build procedure. Builds both the disk image and the ISO
281 build_image() {
282     log "build_image() <${name}>"
283     [ -n "${name}" ] || fail $? bad_type
284     clear
285     set_msgs
286     printf "${MSG}---> We'll use the sources living in ${SRC}\n\n"
287
288     # read config variables from a global and then a type-specific file
289     # basically STAND_LINKS and MY_DEVS, but can also override other
290     # variables.
291     # 
292     . ${PICO_TREE}/build/config
293     [ -f "${MY_TREE}/config" ]          && . ${MY_TREE}/config
294     [ -f "${o_additional_config}" ]     && . ${o_additional_config}
295
296     # location of the object directory
297     PICO_OBJ=${l_objtree}/picobsd/${THETYPE}
298     log "PICO_OBJ is ${PICO_OBJ}"
299
300     if [ ${OSVERSION} -ge 500035 ] ; then
301         export MAKEOBJDIRPREFIX=${l_objtree}
302         eval "export BINMAKE=\"`cd ${SRC}; make -f Makefile -V BINMAKE`\""
303         eval export `cd ${SRC}; ${BINMAKE} -f Makefile.inc1 -V WMAKEENV`
304     fi
305     # create build directory and subtree
306     mkdir -p ${BUILDDIR}/crunch
307     # remove any old stuff
308     rm -f ${BUILDDIR}/kernel.gz ${BUILDDIR}/${c_fs}
309     # invoke commands to build a kernel
310     do_kernel
311     # fill a subdirectory with things that go into the floppy
312     # (mostly /etc and similar stuff)
313     populate_floppy_fs
314     # populate it and produce a file with the MFS image
315     populate_mfs_tree           # things which go into mfs
316     # create, mount and fill a filesystem with floppy image
317     fill_floppy_image # copies everything into the floppy
318 }
319
320 # Set build parameters interactively
321
322 main_dialog() {
323   local ans i l
324
325   log "main_dialog()"
326   while true ; do
327     set_msgs
328     rm ${c_reply}
329     dialog --menu "PicoBSD build menu -- (29 sep 2001)" 19 70 12 \
330         N "--> READY, build it <---" \
331         T "${MSG1}" \
332         K "edit Kernel config file" \
333         E "Edit crunch.conf file" \
334         S "MFS Size: ${MFS_SIZE}kB" \
335         I "Init type: ${init_name}" \
336         F "Floppy size: ${fd_size}kB" \
337         M "MFS bytes per inode: ${mfs_inodes}" \
338         U "UFS bytes per inode: ${fd_inodes}" \
339         $ "Site-info: ${SITE}" \
340         Q "Quit" \
341         2> ${c_reply}
342     ans=`cat ${c_reply}`
343     rm ${c_reply}
344     case ${ans} in
345     T)
346         l=""
347         for i in ${c_startdir} ${c_startdir}/* ${PICO_TREE}/* ; do
348             if [ -d $i -a -f $i/PICOBSD -a -f $i/crunch.conf ]; then
349                 l="$l `basename $i` `basename $i`"
350             fi
351         done
352         log $l
353         { dialog --menu "Setup the type of configuration" 12 70 5 $l \
354                 2> ${c_reply} && set_type "`cat ${c_reply}`" ${SITE} ; } || true
355         ;;
356     I)
357         { dialog --menu "Choose your init(8) program" \
358         10 70 2 init "Standard init (requires getty)" \
359         oinit "small init from TinyWare" 2> ${c_reply} \
360                 && init_name=`cat ${c_reply}` ; } || true
361         ;;
362
363     K) ${EDITOR} ${MY_TREE}/PICOBSD ;;
364
365     E) ${EDITOR} ${MY_TREE}/crunch.conf ;;
366
367     S)
368         { dialog --title "MFS Size setup" --inputbox \
369 "MFS size depends on what you need to put on the MFS image. Typically \
370 ranges between 820kB (for very small bridge/router images) to \
371 as much as 2500kB kB for a densely packed image. \
372 Keep in mind that this memory is \
373 totally lost to other programs. Usually you want to keep \
374 this as small as possible. " 10 70 2> ${c_reply} \
375         && MFS_SIZE=`cat ${c_reply}` ; } || true
376         ;;
377
378     \$)
379         { dialog --title "Site info setup" --inputbox \
380         "Please enter the full path to the directory \
381         containing site-specific setup. \
382         This directory tree must contain files that replace \
383         standard ones in floppy.tree/ and mfs.tree/ . " \
384         10 70 2> ${c_reply} && SITE=`cat ${c_reply}` ; } || true
385         ;;
386
387     F)
388         { dialog --menu "Set floppy size" 15 70 4 \
389             1440 "1.44MB" 1720 "1.72MB" 2880 "2.88MB" 4096 "4MB" \
390                  2> ${c_reply} && fd_size=`cat ${c_reply}` ; } || true
391         ;;
392
393     M)
394         { dialog --title "MFS bytes per inode:" --inputbox \
395         "Enter MFS bytes per inode (typically 4096..65536). \
396         A larger value means fewer inodes but more space on MFS" \
397         10 70 2> ${c_reply} && mfs_inodes=`cat ${c_reply}`  ; } || true
398         ;;
399
400     U)
401         { dialog --title "Floppy bytes per inode:" --inputbox \
402         "Enter floppy bytes per inode (typically 3072..65536). \
403         A larger value means fewer inodes but more space on the floppy." \
404         10 70 2> ${c_reply} && fd_inodes=`cat ${c_reply}` ; } || true
405         ;;
406
407     N) break 2
408         ;;
409
410     Q) exit 0 ;;
411
412     *) echo "\aUnknown option \"${ans}\". Try again."
413         sleep 2
414         clear
415         ;;
416     esac
417   done
418 }
419
420 # Call the build procedure
421 # Install image
422 do_install() {
423     log "do_install()"
424
425     if [ "${o_interactive}" = "NO" ] ; then
426         echo "+++ Build completed +++"
427         cat .build.reply || true
428         return
429     fi
430     dialog --title "Build ${THETYPE} completed" --inputbox \
431 "\nThe build process was completed successfuly.\n\
432 `cat .build.reply` \n\n\
433 Now we are going to install the image on the floppy.\n\
434 Please insert a blank floppy in /dev/fd0.\\n
435 WARNING: the contents of the floppy will be permanently erased!\n\
436 \n\
437 Your options:\n\
438         * ^C or [Cancel] to abort,\n\
439         * Enter to install ${c_img},\n\
440 " 20 80 2> ${c_reply}
441     if [ "$?" = "0" ]; then
442         echo "Writing ${c_img}..."
443         dd if=${BUILDDIR}/${c_img} of=/dev/fd0.${fd_size}
444     else
445         echo "Ok, the image is in ${c_img}"
446     fi
447     echo "Done."
448 }
449
450
451 #-------------------------------------------------------------------
452
453 # invoke the picobsd Makefile to compile the kernel.
454 # if MODULES is set (value is irrelevant) the makefile will build modules.
455 do_kernel() {           # OK
456     log "do_kernel() Preparing kernel \"$name\" in $MY_TREE"
457     (cd $MY_TREE; export name SRC BUILDDIR # used in this makefile ;
458         # export CONFIG
459         [ "${o_do_modules}" = "yes" ] && export MODULES=""
460         ${BINMAKE} -v -f ${PICO_TREE}/build/Makefile.conf ) || \
461         fail $? missing_kernel
462 }
463
464 # Populate the variable part of the floppy filesystem. Must be done before
465 # the MFS because its content might need to be copied there as well.
466 #
467 # This involves fetching files from three subtrees, in this order:
468 #
469 #  1. a standard one, from which type-specific files are excluded;
470 #  2. a type-specific one;
471 #  3. a site-specific one.
472 #
473 # Files are first copied to a local tree and then compressed.
474
475 populate_floppy_fs() {          # OK
476     local dst excl srcdir
477
478     log "populate_floppy_fs()"
479     dst=${BUILDDIR}/floppy.tree
480     log "pwd=`pwd` Populating floppy filesystem..."
481
482     rm -rf ${dst} || true       # clean relics from old compilations.
483     mkdir ${dst}                # create a clean tree
484
485     # compute exclude list for generic tree
486     excl=${MY_TREE}/floppy.tree.exclude
487     if [ -f ${excl} ] ; then
488         log "Files excluded from generic tree: `echo;cat ${excl}`"
489         excl="--exclude-from ${excl}"
490     else
491         excl=""
492     fi
493     # copy from the floppy trees into the destination
494     for FLOPPY_TREE in ${PICO_TREE}/floppy.tree ${MY_TREE}/floppy.tree \
495                 ${MY_TREE}/floppy.tree.${SITE} ; do
496         if [ -d ${FLOPPY_TREE} ] ; then
497             (cd ${FLOPPY_TREE} ; tar -cf - --exclude CVS \
498                     --exclude .svn ${excl} . ) | \
499                 (cd ${dst} ; tar x${o_tarv}f - )
500             log "Copied from ${FLOPPY_TREE}"
501         fi
502         excl="" # reset the exclude list.
503     done
504
505     # add local manipulation
506     if [ -f ${MY_TREE}/buildtree.mk ] ; then
507         log "building local floppy tree"
508         ${BINMAKE} -C ${dst} -f ${MY_TREE}/buildtree.mk floppy.tree
509     fi
510  
511     # compress the files in etc/, just in case
512     # XXX this should be done in the makefile.
513     # gzip returns an error if it fails to compress some file
514     (cd $dst ; gzip -9 etc/*
515             log "Compressed files in etc/ `echo; ls -l etc`"
516     ) || true
517 }
518
519 # Copy the specified files to the destination filesystem.
520 # Each file is specified as a pair "src dst", dst is assumed to be
521 # a directory (and created with mkdir -p) if it has a trailing /
522 # Be careful to escape metacharacters.
523 # You can use ${CROSS} to point to the root of the cross build
524 # (remember that it might be incomplete)
525
526 do_copyfiles() {        # rootdir varname
527         log Copy files to $1
528         local root=$1
529         local srcs dst
530         local CROSS=${_SHLIBDIRPREFIX}
531         eval set "\${${2}}"
532         srcs=""
533         for dst in $* ; do
534                 [ -z "$srcs" ] && srcs=$dst && continue
535                 eval srcs="$srcs"       # expand wildcard and vars
536                 case x"$dst" in
537                 */ )    mkdir -p ${root}/${dst} ;;
538                 # * )   mkdir -p `dirname ${root}/${dst}` ;;
539                 esac
540                 cp -p ${srcs} ${root}/${dst} || true
541                 srcs=""
542         done
543 }
544
545 # do_links is a helper function to create links between programs
546 # in stand/
547 # This is done reading the names and destination from variable
548 # links in a config file, in the format
549 #       : dst names
550
551 do_links() {    # rootdir varname
552         local root=$1
553         local l i dst
554         eval l="\${${2}}"
555         dst=""
556         log "Create links for ${l}"
557         (cd ${root}/stand
558         for i in $l ; do
559             if [ "$dst" = ":" -o "$i" = ":" ] ; then
560                 dst=$i
561             elif [ -n "${dst}" ] ; then
562                 ln -s ${dst} ${i}
563             fi
564         done
565         )
566 }
567
568 # find_progs is a helper function to locate the named programs
569 # or libraries in ${o_objdir} or ${_SHLIBDIRPREFIX},
570 # and return the full pathnames.
571 # Called as "find_progs [-L libpath] [-P binpath] prog1 prog2 ... "
572 # On return it sets ${u_progs} to the list of programs, and ${u_libs}
573 # to the list of shared libraries used.
574
575 # '-L path' can be used to specify a search path for libraries
576 #    (which searches in $path/lib:$path/usr/lib:$path/usr/local/lib
577 # '-P binpath' can be used to specify a search path for programs
578 #    (which searches in a lot of places in the subtree)
579 # -L must be the first, followed by -P
580 #
581 # You can use it e.g. in a local confign file by writing
582 #
583 #  do_copyfiles_user() {
584 #       local dst=$1
585 #       find_progs nvi sed less grep
586 #       cp -p ${u_progs} ${dst}/bin
587 #       cp -p ${u_libs} ${dst}/lib
588 #       mkdir -p ${dst}/libexec
589 #       find_progs ld-elf.so.1
590 #       cp -p ${u_progs} ${dst}/libexec # ignore errors
591 #  }
592
593 find_progs() {  # programs
594         local i
595         local oo=${o_objdir:-${_SHLIBDIRPREFIX}} # default objdir
596         local lp=$oo/lib                        # default lib.prefix
597         local o=""                              # additional objdir
598         if [ x"$1" = "x-L" -a -d "$2" ] ; then # set lib search path
599                 o=$2; shift; shift
600                 lp="$lp:$o/lib:$o/usr/lib:$o/usr/local/lib"
601                 o="-P $o"
602         fi
603         u_libs=""
604         u_progs="`find_progs_helper $*`"
605         log "looking for libs for <$u_progs> in $lp"
606         [ -z "${u_progs}" ] && return 1 # not found, error
607         i="`( LD_LIBRARY_PATH=$lp ldd ${u_progs} ) | \
608                 grep -v '^/' | awk '{print $1}' | sort | uniq`"
609         u_libs="`find_progs_helper $o $i`"
610         return 0
611 }
612
613 find_progs_helper() {   # programs
614         local dir=${o_objdir:-${_SHLIBDIRPREFIX}/..}
615         local ldir=""
616         if [ x"$1" = "x-P" -a -d "$2" ] ; then # set path
617                 ldir=$2; shift; shift
618         fi
619         local progs="$*"
620         local subdirs=". local/bin local/sbin local/lib local/libexec \
621                 bin sbin usr.bin usr.sbin libexec lib \
622                 gnu/usr.bin gnu/lib \
623                 secure/usr.bin secure/usr.sbin secure/libexec secure/lib"
624         local names=""  # files to search
625         local o=""
626         local i
627         for i in $progs ; do
628                 # full pathnames are just listed
629                 [ -f "$i" ] && echo $i && continue
630                 names="${names} ${o} -name $i"
631                 o="-o"
632         done
633         [ -z "${names}" ] && return 0
634         local places=""                         # places to search
635         for i in $subdirs ; do
636                 [ -d "${dir}/${i}" ] && places="${places} ${dir}/${i}"
637         done
638         if [ -n "${ldir}" ] ; then
639             for i in $subdirs ; do
640                 [ -d "${ldir}/${i}" ] && places="${places} ${ldir}/${i}"
641             done
642         fi
643         # use maxdepth 3 because some libs are way down
644         find ${places} -maxdepth 3 -type f \( ${names} \)
645 }
646
647 # Populate the memory filesystem with binaries and non-variable
648 # configuration files.
649 # First do an mtree pass, then create directory links and device entries,
650 # then run crunchgen etc. to build the binary and create links.
651 # Then copy the specific/generic mfs_tree.
652 # Finally, if required, make a copy of the floppy.tree onto /fd
653
654 populate_mfs_tree() {
655     local i j a dst MFS_TREE
656
657     log "populate_mfs_tree()"
658     dst=${BUILDDIR}/mfs.tree
659     rm -rf ${dst} || true       # clean relics from old compilations.
660     mkdir ${dst}                # create a fresh tree
661
662     log "pwd=`pwd`, Populating MFS tree..."
663
664     # use type-specific mfs.mtree, default to generic one.
665     a=${MY_TREE}/mfs.mtree
666     [ -f ${a} ] || a=${PICO_TREE}/build/mfs.mtree
667     log "Running mtree using $a..."
668     mtree -deU -f $a -p ${dst} > /dev/null || fail $? mtree
669
670     # Create symlinks using relative pathnames, so it is possible
671     # to follow them also when building the image.
672     # Note that names in STAND_LINKS should not have a leading /
673     for i in ${STAND_LINKS}; do
674         j=`echo $i | sed -E 's:^[^/]+::;s:/[^/]+:../:g'`
675         ln -s ${j}stand ${dst}/$i
676     done
677     ln -s ../../dev/null ${dst}/var/run/log
678     ln -s ../../../etc/termcap ${dst}/usr/share/misc/termcap
679
680     ### now build the crunched binaries ###
681     (
682     cd ${BUILDDIR}/crunch
683     log "Making and installing crunch1 from `pwd` src ${SRC}..."
684     a=${BUILDDIR}/crunch1.conf
685     ( export BUILDDIR SRC MY_TREE PICO_OBJ ;
686         ${BINMAKE} \
687                 -v -f ${PICO_TREE}/build/Makefile.conf ${BUILDDIR}/crunch.mk )
688     log "Libs are ${LIBS} "
689     export SRC # used by crunch.mk
690     # export LIBS CFLAGS
691     log "Now make -f crunch.mk"
692     ${BINMAKE} ${o_makeopts} -f ${BUILDDIR}/crunch.mk
693     strip --remove-section=.note --remove-section=.comment crunch1
694     mv crunch1 ${dst}/stand/crunch
695     chmod 555 ${dst}/stand/crunch
696     log "Making links for binaries..."
697     for i in `crunchgen -l $a` ; do
698         ln ${dst}/stand/crunch ${dst}/stand/${i};
699     done
700     # rm $a # do not remove!
701     ) || fail $? crunch
702
703     if [ -f ${dst}/stand/sshd ] ; then
704         log "Setting up host key for sshd:"
705         if [ -f ${BUILDDIR}/floppy.tree/etc/ssh_host_key.gz ] ; then
706             log "Using existing host key"
707         else
708             log "Generating new host key" 
709             ssh-keygen -t rsa1 -f ${BUILDDIR}/floppy.tree/etc/ssh_host_key \
710                  -N "" -C "root@picobsd"
711             gzip -9 ${BUILDDIR}/floppy.tree/etc/ssh_host_key* || true
712         fi
713     fi
714
715     log "Copy generic and site-specific MFS tree..."
716     for MFS_TREE in ${PICO_TREE}/mfs_tree ${MY_TREE}/mfs_tree ; do
717         if [ -d ${MFS_TREE} ] ; then
718             log "Copy ${MFS_TREE} ..."
719             (cd ${MFS_TREE} ; tar -cf - --exclude CVS --exclude .svn . ) | \
720                     (cd ${dst} ; tar x${o_tarv}f - )
721         fi
722     done
723
724     if [ -f ${MY_TREE}/buildtree.mk ] ; then
725         log "building local floppy tree"
726         ${BINMAKE} -C ${dst} -f ${MY_TREE}/buildtree.mk mfs.tree
727     fi
728
729     if [ "${o_all_in_mfs}" = "yes" ]; then
730         log "Copy generic floppy_tree into MFS..."
731         # ignore failure in case the floppy is empty
732         cp -Rp ${BUILDDIR}/floppy.tree/* ${dst}/fd || true
733     fi
734
735     # 4.x compatibility - create device nodes
736     if [ -n "${o_no_devfs}" ] ; then
737         # create device entries using MAKEDEV
738         (cd ${dst}/dev
739         ln -s ${SRC}/etc/MAKEDEV ; chmod 555 MAKEDEV
740         # log `pwd`
741         sh ./MAKEDEV ${MY_DEVS}
742         rm MAKEDEV
743         )
744     fi
745     if [ "`id -u`" = "0" ] ; then
746         log "Fixing permissions"
747         (cd ${dst}; chown -R root . )
748     fi
749
750     log "for a shared 'crunch' take libraries and dynamic loader as well"
751     find_progs ${dst}/stand/crunch
752     if [ -n "${u_libs}" ] ; then
753         mkdir -p ${dst}/lib && cp -p ${u_libs} ${dst}/lib
754         mkdir -p ${dst}/libexec
755         create_includes_and_libraries2 libexec/rtld-elf
756         find_progs ld-elf.so.1 && cp -p ${u_progs} ${dst}/libexec
757     fi
758
759     [ -n "${copy_files}" ] && do_copyfiles ${dst} copy_files
760     do_copyfiles_user ${dst} || true
761     [ -n "${links}" ] && do_links ${dst} links
762     strip ${dst}/libexec/* ${dst}/lib/* ${dst}/stand/* 2> /dev/null || true
763
764     # The 'import_files' mechanism is deprecated, as it requires
765     # root permissions to follow the symlinks, and also does
766     # not let you rename the entries.
767     if [ -n "${import_files}" ] ; then
768         log "importing ${import_files} into mfs"
769         # We do it in a chroot environment on the target so
770         # symlinks are followed correctly.
771         # Make sure we have a statically linked tar there.
772         mkdir -p ${dst}/rescue
773         cp /rescue/tar ${dst}/rescue
774         (cd ${l_usrtree}/.. ; tar cf - ${import_files} ) | \
775             (chroot ${dst} /rescue/tar xPf - )
776         rm -rf ${dst}/rescue
777     fi
778
779     # final step -- build the mfs image
780     (cd ${BUILDDIR}
781         # override the owner
782         echo "/set uid=0 gid=0" > mtree.out
783         mtree -ic -p ${dst} -k "" >> mtree.out
784         log "mtre.out at ${BUILDDIR}/mtree.out"
785         makefs -t ffs -o bsize=4096 -o fsize=512 \
786                 -s ${MFS_SIZE}k -f 1000 -F mtree.out ${c_fs} ${dst}
787         ls -l ${c_fs} )
788     log "done mfs image"
789 }
790
791 final_cleanup() {
792     log "final_cleanup()"
793     rm -rf ${c_mnt} ${c_reply} 2> /dev/null || true
794     rm -f ${c_reply}
795 }
796
797 # fail errno errcode
798 # This function is used to trap errors and print msgs
799 #
800 fail() {
801     local errno errocode where
802
803     errno=$1
804     errcode=$2
805     where=$3
806     echo "---> fail: Error <${errno}> error code <${errcode}> in <${where}>"
807     case ${errcode} in
808     mtree)
809         echo "Error while making hierarchy in ${c_mnt}"
810         ;;
811     crunch)
812         echo "Error while building ${name}."
813         ;;
814     missing_kernel)
815         echo "Error: you must build PICOBSD${suffix} kernel first"
816         ;;
817     includes)
818         echo "Error: failed while making includes"
819         ;;
820     libraries)
821         echo "Error: failed while making libraries"
822         ;;
823     bad_type)
824         echo "Error: unknown floppy type ${name}"
825         ;;
826     no_space)
827         echo "Error: no space left on device (${where})"
828         ;;
829     no_mfs)
830         echo "Error: while writing MFS into the kernel."
831         ;;
832     "")
833         echo "User break"
834         errcode="userbreak"
835         ;;
836     *)
837         echo "unknown error, maybe user break: $errno $errcode"
838         ;;
839     esac
840     echo "---> Aborting $0"
841     # try to cleanup the vnode.
842     final_cleanup
843     exit 2
844 }
845
846 fill_floppy_image() {
847     local blocks dst mfs_start mfs_end mfs_size img_size
848
849     log "fill_floppy_image()"
850     dst=${c_mnt}        # where to create the image
851
852     log "Preparing ${fd_size}kB floppy filesystem..."
853
854     # correct blocks according to size.
855     blocks=${fd_size};
856     if [ "${blocks}" = "1720" ]; then
857         blocks=1722
858     elif [ "${blocks}" = "1480" ]; then
859         blocks=1476
860     fi
861
862     log "Labeling floppy image"
863     b2=${BUILDDIR}/boot2 # modified boot2
864     cp -f ${c_boot2} ${b2}
865     chmod 0644 ${b2}
866
867     if [ ${o_use_loader} = "no" ] ; then
868         log "patch ${c_boot2} to boot /kernel right away"
869         set `strings -at d ${b2} | grep "/boot/loader"`
870         echo -e "/kernel\0\0\0\0\0" | \
871             dd of=${b2} obs=$1 oseek=1 conv=notrunc 2>/dev/null
872     fi
873     chmod 0444 ${b2}
874
875     dst=${BUILDDIR}/image.tree
876     rm -rf ${dst}
877     mkdir -p ${dst}
878     (
879     cd ${BUILDDIR}
880     set 0 0 # reset variables
881     # $1 takes the offset of the MFS filesystem
882     set `strings -at d kernel | grep "MFS Filesystem goes here"`
883     mfs_start=$1
884     set 0 0 # reset variables
885     set `strings -at d kernel | grep "MFS Filesystem had better"`
886     mfs_end=$1
887     mfs_size="$((${mfs_end} - ${mfs_start}))"
888     set -- `ls -l ${c_fs}`; imgsize="$5"
889     if [ ${mfs_start} -gt 0 -a ${mfs_size} -ge ${imgsize} ] ; then
890         mfs_ofs=$((${mfs_start} + 8192))
891         log "Preload kernel with file ${c_fs} at ${mfs_ofs}"
892         log "`ls -l ${c_fs}` to fit in ${mfs_size}"
893         dd if=${c_fs} ibs=8192 iseek=1 of=kernel obs=${mfs_ofs} \
894             oseek=1 conv=notrunc # 2> /dev/null
895     else
896         log "not loading mfs, size ${mfs_size} img ${imgsize}"
897     fi
898     log "Compress with kgzip and copy to floppy image"
899     if [ ${o_use_loader} = "no" ] ; then
900         kgzip -o kernel.gz kernel
901         cp -p kernel.gz ${dst}/kernel || fail $? no_space "copying kernel"
902     else
903         gzip kernel
904         mkdir -p  ${dst}/boot/kernel
905         echo "hint.acpi.0.disabled=\"1\"" > ${dst}/boot/loader.conf
906         echo "console=\"comconsole\"" >> ${dst}/boot/loader.conf
907         cp -p /boot/loader ${dst}/boot/loader || fail $? no_space "copying bootloader"
908         cp -p kernel.gz ${dst}/boot/kernel/kernel.gz || fail $? no_space "copying kernel"
909     fi
910
911     # now transfer the floppy tree. If it is already in mfs, dont bother.
912     if [ "${o_all_in_mfs}" != "yes" ] ; then
913         log "Now transfer floppy tree if not already in MFS image"
914         cp -Rp floppy.tree/* ${dst} || \
915                 fail $? no_space "copying floppy tree"
916     fi
917     )
918
919     # add local manipulation to the image
920     if [ -f ${MY_TREE}/buildtree.mk ] ; then
921         ${BINMAKE} -C ${dst} -f ${MY_TREE}/buildtree.mk image.tree
922     fi
923
924     log "image used `du -s ${dst}` of ${blocks}k"
925     if [ "${generate_iso}" = "YES" ]; then
926         logverbose "generate_iso ${generate_iso}"
927         # build_iso_image       # XXX not implemented yet
928         (cd ${BUILDDIR}
929         cp -p /boot/cdboot ${dst}/boot || fail $? no_space "copying cdboot"
930         mkisofs -b boot/cdboot -no-emul-boot -J -r -ldots -l -L \
931                 -o ${c_iso} ${dst}
932         )
933     fi
934
935     (cd ${BUILDDIR}
936     makefs -t ffs -o bsize=4096 -o fsize=512 \
937         -s ${blocks}k -f 50 ${c_img} ${dst}
938
939     ${c_label} -w -f `pwd`/${c_img} auto # write in a label
940     # copy partition c: into a: with some sed magic
941     ${c_label} -f `pwd`/${c_img} | sed -e '/  c:/{p;s/c:/a:/;}' | \
942         ${c_label} -R -f `pwd`/${c_img} /dev/stdin
943     ${c_label} -f `pwd`/${c_img}
944
945     ls -l ${c_img}
946     ${c_label} -f `pwd`/${c_img}
947     log "after disklabel"
948     )
949
950     echo "BUILDDIR ${BUILDDIR}"
951
952     # dump the primary and secondary boot
953     # XXX primary is 512 bytes
954     dd if=${c_boot1} of=${BUILDDIR}/${c_img} conv=notrunc 2>/dev/null
955     # XXX secondary starts after the 0x114 = dec 276 bytes of the label
956     # so we skip 276 from the source, and 276+512=788 from dst
957     # the old style blocks used 512 and 1024 respectively
958
959     dd if=${b2} iseek=1 ibs=276 2> /dev/null | \
960         dd of=${BUILDDIR}/${c_img} oseek=1 obs=788 conv=notrunc 2>/dev/null
961     log "done disk image"
962     # XXX (log "Fixing permissions"; cd ${dst}; chown -R root *)
963     rm -rf ${BUILDDIR}/floppy.tree || true # cleanup
964     # df -ik ${dst} | colrm 70 > .build.reply
965     rm -rf ${dst}
966     rm ${BUILDDIR}/${c_fs}
967     # rm ${BUILDDIR}/kernel.gz
968 }
969
970 # This function creates variables which depend on the source tree in use:
971 # SRC, l_usrtree, l_objtree
972 # Optionally creates libraries, includes and the like (for cross compiles,
973 # needs to be done once).
974
975 set_build_parameters() {
976     if [ "${SRC}" = "/usr/src" ] ; then
977         l_usrtree=${USR:-/usr}
978     else
979         l_usrtree=${USR:-${SRC}/../usr}
980     fi
981     l_objtree=${l_usrtree}/obj-pico
982     PICO_TREE=${PICO_TREE:-${SRC}/release/picobsd}
983     set `grep "#define[\t ]__FreeBSD_version" ${SRC}/sys/sys/param.h`
984     OSVERSION=$3
985     log "OSVERSION is ${OSVERSION}"
986     if [ "${o_init_src}" != "" ] ; then
987         if [ ${OSVERSION} -lt 500035 ] ; then
988             create_includes_and_libraries
989         else
990             create_includes_and_libraries2
991         fi
992     fi
993     if [ ${OSVERSION} -lt 500035 ] ; then
994         # Create the right LIBS and CFLAGS for further builds.
995         # and build the config program
996         LIBS="-L${l_usrtree}/lib"
997         CFLAGS="-nostdinc -I${l_usrtree}/include"
998         export LIBS CFLAGS
999         CONFIG=${l_usrtree}/sbin/config
1000         export CONFIG
1001     fi
1002
1003     # if we have o_objdir, find where bin/ is
1004     if [ ! -z "${o_objdir}" ] ; then
1005         if [ -d ${o_objdir}/bin ] ; then
1006             # fine
1007         elif [ -d "${o_objdir}${SRC}/bin" ] ; then
1008             o_objdir="${o_objdir}${SRC}"
1009             log "Changing objdir to ${o_objdir}"
1010         else
1011             log "Cannot find objdir in ${o_objdir}, sorry"
1012             o_objdir=""
1013         fi
1014     fi
1015 }
1016
1017 #-------------------------------------------------------------------
1018 # Main entry of the script. Initialize variables, parse command line
1019 # arguments.
1020
1021 set_defaults
1022 while [ true ]; do
1023     log "Parsing $1"
1024     case $1 in
1025     --src)      # set the source path instead of /usr/src
1026         SRC=`realpath $2`
1027         shift
1028         ;;
1029     --init)
1030         o_init_src="YES"
1031         ;;
1032
1033     --floppy_size)
1034         fd_size=$2
1035         shift
1036         ;;
1037
1038     --no_loader)        # omit /boot/loader, just rely on boot2
1039                         # (it may have problems with kernels > 4MB)
1040         o_use_loader="no"
1041         ;;
1042
1043     --all_in_mfs)
1044         o_all_in_mfs="yes"
1045         ;;
1046
1047     --no_all_in_mfs)
1048         o_all_in_mfs="no"
1049         ;;
1050
1051     --modules)  # also build kernel modules
1052         o_do_modules="yes"
1053         ;;
1054     -n)
1055         o_interactive="NO"
1056         ;;
1057
1058     -clear|-clean|-c) # clean
1059         o_clean="YES"
1060         o_interactive="NO"
1061         ;;
1062
1063     -v) # need -v -v to wait for user input
1064         o_verbose=$((${o_verbose}+1))   # verbose level
1065         o_tarv="v"                      # tar verbose flag
1066         o_makeopts="-d l" # be verbose
1067         ;;
1068
1069     --iso) # generate iso image
1070         generate_iso="YES"
1071         ;;
1072
1073     --cfg) # read additional config from this file
1074         o_additional_config=`realpath $2`
1075         shift
1076         ;;
1077
1078     --objdir)   # Place with results of a previous buildworld
1079                 # useful if you want to copy shared binaries and libs
1080         o_objdir=`realpath $2`
1081         shift
1082         ;;
1083
1084     *)
1085         break
1086         ;;
1087
1088     esac
1089     shift
1090 done
1091
1092 set_build_parameters    # things that depend on ${SRC}
1093 set_type $1 $2          # type and site, respectively
1094
1095 [ "${o_interactive}" != "NO" ] && main_dialog
1096
1097 if [ "${o_clean}" = "YES" ] ; then
1098     clean_tree
1099 else
1100     build_image
1101     do_install
1102 fi
1103 final_cleanup
1104 exit 0