contrib/llvm/tools/opt/opt.cpp

   1 //===- opt.cpp - The LLVM Modular Optimizer -------------------------------===//
   2 //
   3 //                     The LLVM Compiler Infrastructure
   4 //
   5 // This file is distributed under the University of Illinois Open Source
   6 // License. See LICENSE.TXT for details.
   7 //
   8 //===----------------------------------------------------------------------===//
   9 //
  10 // Optimizations may be specified an arbitrary number of times on the command
  11 // line, They are run in the order specified.
  12 //
  13 //===----------------------------------------------------------------------===//
  14
  15 #include "BreakpointPrinter.h"
  16 #include "NewPMDriver.h"
  17 #include "PassPrinters.h"
  18 #include "llvm/ADT/Triple.h"
  19 #include "llvm/Analysis/CallGraph.h"
  20 #include "llvm/Analysis/CallGraphSCCPass.h"
  21 #include "llvm/Analysis/LoopPass.h"
  22 #include "llvm/Analysis/RegionPass.h"
  23 #include "llvm/Analysis/TargetLibraryInfo.h"
  24 #include "llvm/Analysis/TargetTransformInfo.h"
  25 #include "llvm/Bitcode/BitcodeWriterPass.h"
  26 #include "llvm/CodeGen/CommandFlags.h"
  27 #include "llvm/IR/DataLayout.h"
  28 #include "llvm/IR/DebugInfo.h"
  29 #include "llvm/IR/IRPrintingPasses.h"
  30 #include "llvm/IR/LLVMContext.h"
  31 #include "llvm/IR/LegacyPassManager.h"
  32 #include "llvm/IR/LegacyPassNameParser.h"
  33 #include "llvm/IR/Module.h"
  34 #include "llvm/IR/Verifier.h"
  35 #include "llvm/IRReader/IRReader.h"
  36 #include "llvm/InitializePasses.h"
  37 #include "llvm/LinkAllIR.h"
  38 #include "llvm/LinkAllPasses.h"
  39 #include "llvm/MC/SubtargetFeature.h"
  40 #include "llvm/Support/Debug.h"
  41 #include "llvm/Support/FileSystem.h"
  42 #include "llvm/Support/Host.h"
  43 #include "llvm/Support/ManagedStatic.h"
  44 #include "llvm/Support/PluginLoader.h"
  45 #include "llvm/Support/PrettyStackTrace.h"
  46 #include "llvm/Support/Signals.h"
  47 #include "llvm/Support/SourceMgr.h"
  48 #include "llvm/Support/SystemUtils.h"
  49 #include "llvm/Support/TargetRegistry.h"
  50 #include "llvm/Support/TargetSelect.h"
  51 #include "llvm/Support/ToolOutputFile.h"
  52 #include "llvm/Support/YAMLTraits.h"
  53 #include "llvm/Target/TargetMachine.h"
  54 #include "llvm/Transforms/Coroutines.h"
  55 #include "llvm/Transforms/IPO/AlwaysInliner.h"
  56 #include "llvm/Transforms/IPO/PassManagerBuilder.h"
  57 #include "llvm/Transforms/Utils/Cloning.h"
  58 #include <algorithm>
  59 #include <memory>
  60 using namespace llvm;
  61 using namespace opt_tool;
  62
  63 // The OptimizationList is automatically populated with registered Passes by the
  64 // PassNameParser.
  65 //
  66 static cl::list<const PassInfo*, bool, PassNameParser>
  67 PassList(cl::desc("Optimizations available:"));
  68
  69 // This flag specifies a textual description of the optimization pass pipeline
  70 // to run over the module. This flag switches opt to use the new pass manager
  71 // infrastructure, completely disabling all of the flags specific to the old
  72 // pass management.
  73 static cl::opt<std::string> PassPipeline(
  74     "passes",
  75     cl::desc("A textual description of the pass pipeline for optimizing"),
  76     cl::Hidden);
  77
  78 // Other command line options...
  79 //
  80 static cl::opt<std::string>
  81 InputFilename(cl::Positional, cl::desc("<input bitcode file>"),
  82     cl::init("-"), cl::value_desc("filename"));
  83
  84 static cl::opt<std::string>
  85 OutputFilename("o", cl::desc("Override output filename"),
  86                cl::value_desc("filename"));
  87
  88 static cl::opt<bool>
  89 Force("f", cl::desc("Enable binary output on terminals"));
  90
  91 static cl::opt<bool>
  92 PrintEachXForm("p", cl::desc("Print module after each transformation"));
  93
  94 static cl::opt<bool>
  95 NoOutput("disable-output",
  96          cl::desc("Do not write result bitcode file"), cl::Hidden);
  97
  98 static cl::opt<bool>
  99 OutputAssembly("S", cl::desc("Write output as LLVM assembly"));
 100
 101 static cl::opt<bool>
 102     OutputThinLTOBC("thinlto-bc",
 103                     cl::desc("Write output as ThinLTO-ready bitcode"));
 104
 105 static cl::opt<std::string> ThinLinkBitcodeFile(
 106     "thin-link-bitcode-file", cl::value_desc("filename"),
 107     cl::desc(
 108         "A file in which to write minimized bitcode for the thin link only"));
 109
 110 static cl::opt<bool>
 111 NoVerify("disable-verify", cl::desc("Do not run the verifier"), cl::Hidden);
 112
 113 static cl::opt<bool>
 114 VerifyEach("verify-each", cl::desc("Verify after each transform"));
 115
 116 static cl::opt<bool>
 117     DisableDITypeMap("disable-debug-info-type-map",
 118                      cl::desc("Don't use a uniquing type map for debug info"));
 119
 120 static cl::opt<bool>
 121 StripDebug("strip-debug",
 122            cl::desc("Strip debugger symbol info from translation unit"));
 123
 124 static cl::opt<bool>
 125 DisableInline("disable-inlining", cl::desc("Do not run the inliner pass"));
 126
 127 static cl::opt<bool>
 128 DisableOptimizations("disable-opt",
 129                      cl::desc("Do not run any optimization passes"));
 130
 131 static cl::opt<bool>
 132 StandardLinkOpts("std-link-opts",
 133                  cl::desc("Include the standard link time optimizations"));
 134
 135 static cl::opt<bool>
 136 OptLevelO0("O0",
 137   cl::desc("Optimization level 0. Similar to clang -O0"));
 138
 139 static cl::opt<bool>
 140 OptLevelO1("O1",
 141            cl::desc("Optimization level 1. Similar to clang -O1"));
 142
 143 static cl::opt<bool>
 144 OptLevelO2("O2",
 145            cl::desc("Optimization level 2. Similar to clang -O2"));
 146
 147 static cl::opt<bool>
 148 OptLevelOs("Os",
 149            cl::desc("Like -O2 with extra optimizations for size. Similar to clang -Os"));
 150
 151 static cl::opt<bool>
 152 OptLevelOz("Oz",
 153            cl::desc("Like -Os but reduces code size further. Similar to clang -Oz"));
 154
 155 static cl::opt<bool>
 156 OptLevelO3("O3",
 157            cl::desc("Optimization level 3. Similar to clang -O3"));
 158
 159 static cl::opt<unsigned>
 160 CodeGenOptLevel("codegen-opt-level",
 161                 cl::desc("Override optimization level for codegen hooks"));
 162
 163 static cl::opt<std::string>
 164 TargetTriple("mtriple", cl::desc("Override target triple for module"));
 165
 166 static cl::opt<bool>
 167 UnitAtATime("funit-at-a-time",
 168             cl::desc("Enable IPO. This corresponds to gcc's -funit-at-a-time"),
 169             cl::init(true));
 170
 171 static cl::opt<bool>
 172 DisableLoopUnrolling("disable-loop-unrolling",
 173                      cl::desc("Disable loop unrolling in all relevant passes"),
 174                      cl::init(false));
 175 static cl::opt<bool>
 176 DisableLoopVectorization("disable-loop-vectorization",
 177                      cl::desc("Disable the loop vectorization pass"),
 178                      cl::init(false));
 179
 180 static cl::opt<bool>
 181 DisableSLPVectorization("disable-slp-vectorization",
 182                         cl::desc("Disable the slp vectorization pass"),
 183                         cl::init(false));
 184
 185 static cl::opt<bool> EmitSummaryIndex("module-summary",
 186                                       cl::desc("Emit module summary index"),
 187                                       cl::init(false));
 188
 189 static cl::opt<bool> EmitModuleHash("module-hash", cl::desc("Emit module hash"),
 190                                     cl::init(false));
 191
 192 static cl::opt<bool>
 193 DisableSimplifyLibCalls("disable-simplify-libcalls",
 194                         cl::desc("Disable simplify-libcalls"));
 195
 196 static cl::opt<bool>
 197 Quiet("q", cl::desc("Obsolete option"), cl::Hidden);
 198
 199 static cl::alias
 200 QuietA("quiet", cl::desc("Alias for -q"), cl::aliasopt(Quiet));
 201
 202 static cl::opt<bool>
 203 AnalyzeOnly("analyze", cl::desc("Only perform analysis, no optimization"));
 204
 205 static cl::opt<bool>
 206 PrintBreakpoints("print-breakpoints-for-testing",
 207                  cl::desc("Print select breakpoints location for testing"));
 208
 209 static cl::opt<std::string> ClDataLayout("data-layout",
 210                                          cl::desc("data layout string to use"),
 211                                          cl::value_desc("layout-string"),
 212                                          cl::init(""));
 213
 214 static cl::opt<bool> PreserveBitcodeUseListOrder(
 215     "preserve-bc-uselistorder",
 216     cl::desc("Preserve use-list order when writing LLVM bitcode."),
 217     cl::init(true), cl::Hidden);
 218
 219 static cl::opt<bool> PreserveAssemblyUseListOrder(
 220     "preserve-ll-uselistorder",
 221     cl::desc("Preserve use-list order when writing LLVM assembly."),
 222     cl::init(false), cl::Hidden);
 223
 224 static cl::opt<bool>
 225     RunTwice("run-twice",
 226              cl::desc("Run all passes twice, re-using the same pass manager."),
 227              cl::init(false), cl::Hidden);
 228
 229 static cl::opt<bool> DiscardValueNames(
 230     "discard-value-names",
 231     cl::desc("Discard names from Value (other than GlobalValue)."),
 232     cl::init(false), cl::Hidden);
 233
 234 static cl::opt<bool> Coroutines(
 235   "enable-coroutines",
 236   cl::desc("Enable coroutine passes."),
 237   cl::init(false), cl::Hidden);
 238
 239 static cl::opt<bool> PassRemarksWithHotness(
 240     "pass-remarks-with-hotness",
 241     cl::desc("With PGO, include profile count in optimization remarks"),
 242     cl::Hidden);
 243
 244 static cl::opt<std::string>
 245     RemarksFilename("pass-remarks-output",
 246                     cl::desc("YAML output filename for pass remarks"),
 247                     cl::value_desc("filename"));
 248
 249 static inline void addPass(legacy::PassManagerBase &PM, Pass *P) {
 250   // Add the pass to the pass manager...
 251   PM.add(P);
 252
 253   // If we are verifying all of the intermediate steps, add the verifier...
 254   if (VerifyEach)
 255     PM.add(createVerifierPass());
 256 }
 257
 258 /// This routine adds optimization passes based on selected optimization level,
 259 /// OptLevel.
 260 ///
 261 /// OptLevel - Optimization Level
 262 static void AddOptimizationPasses(legacy::PassManagerBase &MPM,
 263                                   legacy::FunctionPassManager &FPM,
 264                                   TargetMachine *TM, unsigned OptLevel,
 265                                   unsigned SizeLevel) {
 266   if (!NoVerify || VerifyEach)
 267     FPM.add(createVerifierPass()); // Verify that input is correct
 268
 269   PassManagerBuilder Builder;
 270   Builder.OptLevel = OptLevel;
 271   Builder.SizeLevel = SizeLevel;
 272
 273   if (DisableInline) {
 274     // No inlining pass
 275   } else if (OptLevel > 1) {
 276     Builder.Inliner = createFunctionInliningPass(OptLevel, SizeLevel, false);
 277   } else {
 278     Builder.Inliner = createAlwaysInlinerLegacyPass();
 279   }
 280   Builder.DisableUnitAtATime = !UnitAtATime;
 281   Builder.DisableUnrollLoops = (DisableLoopUnrolling.getNumOccurrences() > 0) ?
 282                                DisableLoopUnrolling : OptLevel == 0;
 283
 284   // This is final, unless there is a #pragma vectorize enable
 285   if (DisableLoopVectorization)
 286     Builder.LoopVectorize = false;
 287   // If option wasn't forced via cmd line (-vectorize-loops, -loop-vectorize)
 288   else if (!Builder.LoopVectorize)
 289     Builder.LoopVectorize = OptLevel > 1 && SizeLevel < 2;
 290
 291   // When #pragma vectorize is on for SLP, do the same as above
 292   Builder.SLPVectorize =
 293       DisableSLPVectorization ? false : OptLevel > 1 && SizeLevel < 2;
 294
 295   if (TM)
 296     TM->adjustPassManager(Builder);
 297
 298   if (Coroutines)
 299     addCoroutinePassesToExtensionPoints(Builder);
 300
 301   Builder.populateFunctionPassManager(FPM);
 302   Builder.populateModulePassManager(MPM);
 303 }
 304
 305 static void AddStandardLinkPasses(legacy::PassManagerBase &PM) {
 306   PassManagerBuilder Builder;
 307   Builder.VerifyInput = true;
 308   if (DisableOptimizations)
 309     Builder.OptLevel = 0;
 310
 311   if (!DisableInline)
 312     Builder.Inliner = createFunctionInliningPass();
 313   Builder.populateLTOPassManager(PM);
 314 }
 315
 316 //===----------------------------------------------------------------------===//
 317 // CodeGen-related helper functions.
 318 //
 319
 320 static CodeGenOpt::Level GetCodeGenOptLevel() {
 321   if (CodeGenOptLevel.getNumOccurrences())
 322     return static_cast<CodeGenOpt::Level>(unsigned(CodeGenOptLevel));
 323   if (OptLevelO1)
 324     return CodeGenOpt::Less;
 325   if (OptLevelO2)
 326     return CodeGenOpt::Default;
 327   if (OptLevelO3)
 328     return CodeGenOpt::Aggressive;
 329   return CodeGenOpt::None;
 330 }
 331
 332 // Returns the TargetMachine instance or zero if no triple is provided.
 333 static TargetMachine* GetTargetMachine(Triple TheTriple, StringRef CPUStr,
 334                                        StringRef FeaturesStr,
 335                                        const TargetOptions &Options) {
 336   std::string Error;
 337   const Target *TheTarget = TargetRegistry::lookupTarget(MArch, TheTriple,
 338                                                          Error);
 339   // Some modules don't specify a triple, and this is okay.
 340   if (!TheTarget) {
 341     return nullptr;
 342   }
 343
 344   return TheTarget->createTargetMachine(TheTriple.getTriple(), CPUStr,
 345                                         FeaturesStr, Options, getRelocModel(),
 346                                         CMModel, GetCodeGenOptLevel());
 347 }
 348
 349 #ifdef LINK_POLLY_INTO_TOOLS
 350 namespace polly {
 351 void initializePollyPasses(llvm::PassRegistry &Registry);
 352 }
 353 #endif
 354
 355 //===----------------------------------------------------------------------===//
 356 // main for opt
 357 //
 358 int main(int argc, char **argv) {
 359   sys::PrintStackTraceOnErrorSignal(argv[0]);
 360   llvm::PrettyStackTraceProgram X(argc, argv);
 361
 362   // Enable debug stream buffering.
 363   EnableDebugBuffering = true;
 364
 365   llvm_shutdown_obj Y;  // Call llvm_shutdown() on exit.
 366   LLVMContext Context;
 367
 368   InitializeAllTargets();
 369   InitializeAllTargetMCs();
 370   InitializeAllAsmPrinters();
 371   InitializeAllAsmParsers();
 372
 373   // Initialize passes
 374   PassRegistry &Registry = *PassRegistry::getPassRegistry();
 375   initializeCore(Registry);
 376   initializeCoroutines(Registry);
 377   initializeScalarOpts(Registry);
 378   initializeObjCARCOpts(Registry);
 379   initializeVectorization(Registry);
 380   initializeIPO(Registry);
 381   initializeAnalysis(Registry);
 382   initializeTransformUtils(Registry);
 383   initializeInstCombine(Registry);
 384   initializeInstrumentation(Registry);
 385   initializeTarget(Registry);
 386   // For codegen passes, only passes that do IR to IR transformation are
 387   // supported.
 388   initializeCodeGenPreparePass(Registry);
 389   initializeAtomicExpandPass(Registry);
 390   initializeRewriteSymbolsLegacyPassPass(Registry);
 391   initializeWinEHPreparePass(Registry);
 392   initializeDwarfEHPreparePass(Registry);
 393   initializeSafeStackPass(Registry);
 394   initializeSjLjEHPreparePass(Registry);
 395   initializePreISelIntrinsicLoweringLegacyPassPass(Registry);
 396   initializeGlobalMergePass(Registry);
 397   initializeInterleavedAccessPass(Registry);
 398   initializeCountingFunctionInserterPass(Registry);
 399   initializeUnreachableBlockElimLegacyPassPass(Registry);
 400
 401 #ifdef LINK_POLLY_INTO_TOOLS
 402   polly::initializePollyPasses(Registry);
 403 #endif
 404
 405   cl::ParseCommandLineOptions(argc, argv,
 406     "llvm .bc -> .bc modular optimizer and analysis printer\n");
 407
 408   if (AnalyzeOnly && NoOutput) {
 409     errs() << argv[0] << ": analyze mode conflicts with no-output mode.\n";
 410     return 1;
 411   }
 412
 413   SMDiagnostic Err;
 414
 415   Context.setDiscardValueNames(DiscardValueNames);
 416   if (!DisableDITypeMap)
 417     Context.enableDebugTypeODRUniquing();
 418
 419   if (PassRemarksWithHotness)
 420     Context.setDiagnosticHotnessRequested(true);
 421
 422   std::unique_ptr<tool_output_file> YamlFile;
 423   if (RemarksFilename != "") {
 424     std::error_code EC;
 425     YamlFile = llvm::make_unique<tool_output_file>(RemarksFilename, EC,
 426                                                    sys::fs::F_None);
 427     if (EC) {
 428       errs() << EC.message() << '\n';
 429       return 1;
 430     }
 431     Context.setDiagnosticsOutputFile(
 432         llvm::make_unique<yaml::Output>(YamlFile->os()));
 433   }
 434
 435   // Load the input module...
 436   std::unique_ptr<Module> M = parseIRFile(InputFilename, Err, Context);
 437
 438   if (!M) {
 439     Err.print(argv[0], errs());
 440     return 1;
 441   }
 442
 443   // Strip debug info before running the verifier.
 444   if (StripDebug)
 445     StripDebugInfo(*M);
 446
 447   // Immediately run the verifier to catch any problems before starting up the
 448   // pass pipelines.  Otherwise we can crash on broken code during
 449   // doInitialization().
 450   if (!NoVerify && verifyModule(*M, &errs())) {
 451     errs() << argv[0] << ": " << InputFilename
 452            << ": error: input module is broken!\n";
 453     return 1;
 454   }
 455
 456   // If we are supposed to override the target triple or data layout, do so now.
 457   if (!TargetTriple.empty())
 458     M->setTargetTriple(Triple::normalize(TargetTriple));
 459   if (!ClDataLayout.empty())
 460     M->setDataLayout(ClDataLayout);
 461
 462   // Figure out what stream we are supposed to write to...
 463   std::unique_ptr<tool_output_file> Out;
 464   std::unique_ptr<tool_output_file> ThinLinkOut;
 465   if (NoOutput) {
 466     if (!OutputFilename.empty())
 467       errs() << "WARNING: The -o (output filename) option is ignored when\n"
 468                 "the --disable-output option is used.\n";
 469   } else {
 470     // Default to standard output.
 471     if (OutputFilename.empty())
 472       OutputFilename = "-";
 473
 474     std::error_code EC;
 475     Out.reset(new tool_output_file(OutputFilename, EC, sys::fs::F_None));
 476     if (EC) {
 477       errs() << EC.message() << '\n';
 478       return 1;
 479     }
 480
 481     if (!ThinLinkBitcodeFile.empty()) {
 482       ThinLinkOut.reset(
 483           new tool_output_file(ThinLinkBitcodeFile, EC, sys::fs::F_None));
 484       if (EC) {
 485         errs() << EC.message() << '\n';
 486         return 1;
 487       }
 488     }
 489   }
 490
 491   Triple ModuleTriple(M->getTargetTriple());
 492   std::string CPUStr, FeaturesStr;
 493   TargetMachine *Machine = nullptr;
 494   const TargetOptions Options = InitTargetOptionsFromCodeGenFlags();
 495
 496   if (ModuleTriple.getArch()) {
 497     CPUStr = getCPUStr();
 498     FeaturesStr = getFeaturesStr();
 499     Machine = GetTargetMachine(ModuleTriple, CPUStr, FeaturesStr, Options);
 500   }
 501
 502   std::unique_ptr<TargetMachine> TM(Machine);
 503
 504   // Override function attributes based on CPUStr, FeaturesStr, and command line
 505   // flags.
 506   setFunctionAttributes(CPUStr, FeaturesStr, *M);
 507
 508   // If the output is set to be emitted to standard out, and standard out is a
 509   // console, print out a warning message and refuse to do it.  We don't
 510   // impress anyone by spewing tons of binary goo to a terminal.
 511   if (!Force && !NoOutput && !AnalyzeOnly && !OutputAssembly)
 512     if (CheckBitcodeOutputToConsole(Out->os(), !Quiet))
 513       NoOutput = true;
 514
 515   if (PassPipeline.getNumOccurrences() > 0) {
 516     OutputKind OK = OK_NoOutput;
 517     if (!NoOutput)
 518       OK = OutputAssembly ? OK_OutputAssembly : OK_OutputBitcode;
 519
 520     VerifierKind VK = VK_VerifyInAndOut;
 521     if (NoVerify)
 522       VK = VK_NoVerifier;
 523     else if (VerifyEach)
 524       VK = VK_VerifyEachPass;
 525
 526     // The user has asked to use the new pass manager and provided a pipeline
 527     // string. Hand off the rest of the functionality to the new code for that
 528     // layer.
 529     return runPassPipeline(argv[0], *M, TM.get(), Out.get(),
 530                            PassPipeline, OK, VK, PreserveAssemblyUseListOrder,
 531                            PreserveBitcodeUseListOrder, EmitSummaryIndex,
 532                            EmitModuleHash)
 533                ? 0
 534                : 1;
 535   }
 536
 537   // Create a PassManager to hold and optimize the collection of passes we are
 538   // about to build.
 539   //
 540   legacy::PassManager Passes;
 541
 542   // Add an appropriate TargetLibraryInfo pass for the module's triple.
 543   TargetLibraryInfoImpl TLII(ModuleTriple);
 544
 545   // The -disable-simplify-libcalls flag actually disables all builtin optzns.
 546   if (DisableSimplifyLibCalls)
 547     TLII.disableAllFunctions();
 548   Passes.add(new TargetLibraryInfoWrapperPass(TLII));
 549
 550   // Add internal analysis passes from the target machine.
 551   Passes.add(createTargetTransformInfoWrapperPass(TM ? TM->getTargetIRAnalysis()
 552                                                      : TargetIRAnalysis()));
 553
 554   std::unique_ptr<legacy::FunctionPassManager> FPasses;
 555   if (OptLevelO0 || OptLevelO1 || OptLevelO2 || OptLevelOs || OptLevelOz ||
 556       OptLevelO3) {
 557     FPasses.reset(new legacy::FunctionPassManager(M.get()));
 558     FPasses->add(createTargetTransformInfoWrapperPass(
 559         TM ? TM->getTargetIRAnalysis() : TargetIRAnalysis()));
 560   }
 561
 562   if (PrintBreakpoints) {
 563     // Default to standard output.
 564     if (!Out) {
 565       if (OutputFilename.empty())
 566         OutputFilename = "-";
 567
 568       std::error_code EC;
 569       Out = llvm::make_unique<tool_output_file>(OutputFilename, EC,
 570                                                 sys::fs::F_None);
 571       if (EC) {
 572         errs() << EC.message() << '\n';
 573         return 1;
 574       }
 575     }
 576     Passes.add(createBreakpointPrinter(Out->os()));
 577     NoOutput = true;
 578   }
 579
 580   // Create a new optimization pass for each one specified on the command line
 581   for (unsigned i = 0; i < PassList.size(); ++i) {
 582     if (StandardLinkOpts &&
 583         StandardLinkOpts.getPosition() < PassList.getPosition(i)) {
 584       AddStandardLinkPasses(Passes);
 585       StandardLinkOpts = false;
 586     }
 587
 588     if (OptLevelO0 && OptLevelO0.getPosition() < PassList.getPosition(i)) {
 589       AddOptimizationPasses(Passes, *FPasses, TM.get(), 0, 0);
 590       OptLevelO0 = false;
 591     }
 592
 593     if (OptLevelO1 && OptLevelO1.getPosition() < PassList.getPosition(i)) {
 594       AddOptimizationPasses(Passes, *FPasses, TM.get(), 1, 0);
 595       OptLevelO1 = false;
 596     }
 597
 598     if (OptLevelO2 && OptLevelO2.getPosition() < PassList.getPosition(i)) {
 599       AddOptimizationPasses(Passes, *FPasses, TM.get(), 2, 0);
 600       OptLevelO2 = false;
 601     }
 602
 603     if (OptLevelOs && OptLevelOs.getPosition() < PassList.getPosition(i)) {
 604       AddOptimizationPasses(Passes, *FPasses, TM.get(), 2, 1);
 605       OptLevelOs = false;
 606     }
 607
 608     if (OptLevelOz && OptLevelOz.getPosition() < PassList.getPosition(i)) {
 609       AddOptimizationPasses(Passes, *FPasses, TM.get(), 2, 2);
 610       OptLevelOz = false;
 611     }
 612
 613     if (OptLevelO3 && OptLevelO3.getPosition() < PassList.getPosition(i)) {
 614       AddOptimizationPasses(Passes, *FPasses, TM.get(), 3, 0);
 615       OptLevelO3 = false;
 616     }
 617
 618     const PassInfo *PassInf = PassList[i];
 619     Pass *P = nullptr;
 620     if (PassInf->getTargetMachineCtor())
 621       P = PassInf->getTargetMachineCtor()(TM.get());
 622     else if (PassInf->getNormalCtor())
 623       P = PassInf->getNormalCtor()();
 624     else
 625       errs() << argv[0] << ": cannot create pass: "
 626              << PassInf->getPassName() << "\n";
 627     if (P) {
 628       PassKind Kind = P->getPassKind();
 629       addPass(Passes, P);
 630
 631       if (AnalyzeOnly) {
 632         switch (Kind) {
 633         case PT_BasicBlock:
 634           Passes.add(createBasicBlockPassPrinter(PassInf, Out->os(), Quiet));
 635           break;
 636         case PT_Region:
 637           Passes.add(createRegionPassPrinter(PassInf, Out->os(), Quiet));
 638           break;
 639         case PT_Loop:
 640           Passes.add(createLoopPassPrinter(PassInf, Out->os(), Quiet));
 641           break;
 642         case PT_Function:
 643           Passes.add(createFunctionPassPrinter(PassInf, Out->os(), Quiet));
 644           break;
 645         case PT_CallGraphSCC:
 646           Passes.add(createCallGraphPassPrinter(PassInf, Out->os(), Quiet));
 647           break;
 648         default:
 649           Passes.add(createModulePassPrinter(PassInf, Out->os(), Quiet));
 650           break;
 651         }
 652       }
 653     }
 654
 655     if (PrintEachXForm)
 656       Passes.add(
 657           createPrintModulePass(errs(), "", PreserveAssemblyUseListOrder));
 658   }
 659
 660   if (StandardLinkOpts) {
 661     AddStandardLinkPasses(Passes);
 662     StandardLinkOpts = false;
 663   }
 664
 665   if (OptLevelO0)
 666     AddOptimizationPasses(Passes, *FPasses, TM.get(), 0, 0);
 667
 668   if (OptLevelO1)
 669     AddOptimizationPasses(Passes, *FPasses, TM.get(), 1, 0);
 670
 671   if (OptLevelO2)
 672     AddOptimizationPasses(Passes, *FPasses, TM.get(), 2, 0);
 673
 674   if (OptLevelOs)
 675     AddOptimizationPasses(Passes, *FPasses, TM.get(), 2, 1);
 676
 677   if (OptLevelOz)
 678     AddOptimizationPasses(Passes, *FPasses, TM.get(), 2, 2);
 679
 680   if (OptLevelO3)
 681     AddOptimizationPasses(Passes, *FPasses, TM.get(), 3, 0);
 682
 683   if (FPasses) {
 684     FPasses->doInitialization();
 685     for (Function &F : *M)
 686       FPasses->run(F);
 687     FPasses->doFinalization();
 688   }
 689
 690   // Check that the module is well formed on completion of optimization
 691   if (!NoVerify && !VerifyEach)
 692     Passes.add(createVerifierPass());
 693
 694   // In run twice mode, we want to make sure the output is bit-by-bit
 695   // equivalent if we run the pass manager again, so setup two buffers and
 696   // a stream to write to them. Note that llc does something similar and it
 697   // may be worth to abstract this out in the future.
 698   SmallVector<char, 0> Buffer;
 699   SmallVector<char, 0> CompileTwiceBuffer;
 700   std::unique_ptr<raw_svector_ostream> BOS;
 701   raw_ostream *OS = nullptr;
 702
 703   // Write bitcode or assembly to the output as the last step...
 704   if (!NoOutput && !AnalyzeOnly) {
 705     assert(Out);
 706     OS = &Out->os();
 707     if (RunTwice) {
 708       BOS = make_unique<raw_svector_ostream>(Buffer);
 709       OS = BOS.get();
 710     }
 711     if (OutputAssembly) {
 712       if (EmitSummaryIndex)
 713         report_fatal_error("Text output is incompatible with -module-summary");
 714       if (EmitModuleHash)
 715         report_fatal_error("Text output is incompatible with -module-hash");
 716       Passes.add(createPrintModulePass(*OS, "", PreserveAssemblyUseListOrder));
 717     } else if (OutputThinLTOBC)
 718       Passes.add(createWriteThinLTOBitcodePass(
 719           *OS, ThinLinkOut ? &ThinLinkOut->os() : nullptr));
 720     else
 721       Passes.add(createBitcodeWriterPass(*OS, PreserveBitcodeUseListOrder,
 722                                          EmitSummaryIndex, EmitModuleHash));
 723   }
 724
 725   // Before executing passes, print the final values of the LLVM options.
 726   cl::PrintOptionValues();
 727
 728   // If requested, run all passes again with the same pass manager to catch
 729   // bugs caused by persistent state in the passes
 730   if (RunTwice) {
 731       std::unique_ptr<Module> M2(CloneModule(M.get()));
 732       Passes.run(*M2);
 733       CompileTwiceBuffer = Buffer;
 734       Buffer.clear();
 735   }
 736
 737   // Now that we have all of the passes ready, run them.
 738   Passes.run(*M);
 739
 740   // Compare the two outputs and make sure they're the same
 741   if (RunTwice) {
 742     assert(Out);
 743     if (Buffer.size() != CompileTwiceBuffer.size() ||
 744         (memcmp(Buffer.data(), CompileTwiceBuffer.data(), Buffer.size()) !=
 745          0)) {
 746       errs() << "Running the pass manager twice changed the output.\n"
 747                 "Writing the result of the second run to the specified output.\n"
 748                 "To generate the one-run comparison binary, just run without\n"
 749                 "the compile-twice option\n";
 750       Out->os() << BOS->str();
 751       Out->keep();
 752       if (YamlFile)
 753         YamlFile->keep();
 754       return 1;
 755     }
 756     Out->os() << BOS->str();
 757   }
 758
 759   // Declare success.
 760   if (!NoOutput || PrintBreakpoints)
 761     Out->keep();
 762
 763   if (YamlFile)
 764     YamlFile->keep();
 765
 766   if (ThinLinkOut)
 767     ThinLinkOut->keep();
 768
 769   return 0;
 770 }